前言:
此刻我们对“mysql 监听binlog日志并生成操作记录”大体比较着重,朋友们都需要了解一些“mysql 监听binlog日志并生成操作记录”的相关内容。那么小编也在网络上搜集了一些对于“mysql 监听binlog日志并生成操作记录””的相关资讯,希望你们能喜欢,我们一起来学习一下吧!关注我「程序猿集锦」,获取更多分享。
前言relay log的作用如何开启relay log验证relay log开启的效果relay log日志相关参数relay log日志的清除最后前言
前面介绍了MySQL的binlog日志相关的知识点,接下里这篇文章中,我们来看一下relaylog的相关内容。
relay-log是记录什么的?MySQL用它做什么?
relay log的作用
Relay log,我们翻译成中文,一般叫做中继日志,一般情况下它在MySQL主从同步读写分离集群的从节点才开启。主节点一般不需要这个日志。
master主节点的binlog传到slave从节点后,被写道relay log里,从节点的slave sql线程从relaylog里读取日志然后应用到slave从节点本地。从服务器I/O线程将主服务器的二进制日志读取过来记录到从服务器本地文件,然后SQL线程会读取relay-log日志的内容并应用到从服务器,从而使从服务器和主服务器的数据保持一致。
它的作用可以参考如下图,从图片中可以看出,它是一个中介临时的日志文件,用于存储从master节点同步过来的binlog日志内容,它里面的内容和master节点的binlog日志里面的内容是一致的。然后slave从节点从这个relaylog日志文件中读取数据应用到数据库中,来实现数据的主从复制。
如何开启relay log
开启relaylog可以通过参数relay_log来配置。在my.cnf配置文件中,增加如下配置就可以开启relaylog。
[mysqld]# 启用中继日志,其中mysql-relay表示日志的文件名称,文件存放在datadir参数指向的目录下面。relay-log=mysql-relay# relaylog的其他选项配置relay_log_info_repository=tablerelay_log_recovery=onsync_relay_log=1sync_relay_log_info=1
配置之后,重启MySQL数据库实例,这样就会在datadir参数所指向的目录下面(如果不修改参数datadir的值,默认为/var/lib/mysql这个目录)生成mysql-relay.00000X的relay日志文件,文件的后缀名称表示日志生成的顺序,从1开始累加。
如果想自定义日志的路径,可以在这里指定文件的具体路径。例如配置为:relay-log=/data/log/relaylog/myrelay,则会在/data/log/relaylog目录下面,生成myrelay.000001这样的relaylog日志文件。
验证relay log开启的效果
如果没有开启relaylog,那么参数relay_log后面是没有任何值的。如果开启了relaylog,那么参数relay_log后面会有对一个的relaylog日志文件的名称,又称之为basename,后缀使用序列号标识。
下面是一个没有开启relaylog和一个开启了relaylog的对比结果,
image-20210103151854316.png
开启relaylog后,我们在从节点服务器上的可以查看到具体的relaylog日志文件,其中的index文件是一个索引文件,和binlog中的索引文件一样。如下所示:
root@slave3:/var/lib/mysql# pwd/var/lib/mysqlroot@slave3:/var/lib/mysql# ls -lstr mysql-relay*4 -rw-r----- 1 mysql mysql 203 Jan 3 11:20 mysql-relay.0000264 -rw-r----- 1 mysql mysql 203 Jan 3 11:20 mysql-relay.0000274 -rw-r----- 1 mysql mysql 154 Jan 3 11:20 mysql-relay.0000284 -rw-r----- 1 mysql mysql 63 Jan 3 11:20 mysql-relay.indexroot@slave3:/var/lib/mysql# cat mysql-relay.index./mysql-relay.000026./mysql-relay.000027./mysql-relay.000028root@slave3:/var/lib/mysql#relay log日志相关参数max_relay_log_size:relaylog日志文件的最大值,默认为0,表示和binlog日志文件大小一样。如果不为0,表示relaylog日志文件的最大值就是设置的对应的大小,该参数的单位为byte。relay_log:设置的relaylog的日志文件路径和名称。如果不设置路径,只是设置文件名,则路径是在datadir参数所指向的磁盘目录。如果设置了目录,则会把relaylog写在对应的目录下。如果设置了目录,则要注意这个目录需要让MySQL有对应的读写的权限才可以,否则启动MySQL数据库会失败。relay_log_basename:relaylog日志文件的基础名称,就是去掉文件后缀之后的文件名称。relay_log_index:relaylog日志的索引文件,里面记录了所有当前有效的relaylog日志文件列表。可以指定这个索引文件的名称和存储目录,不过我们一般配置它和relaylog在同一目录下。relay_log_info_file:这个文件里面,记录当前正在使用到的relaylog的文件名称和日志文件中的位置偏移量,以及master节点上面的binlog日志偏移量。这个文件的名称为relay-log.info,它的目录和relaylog在同级目录下。relay_log_info_repository:这个参数标识着上面的relay_log_info_file中的信息是记录在磁盘目录上,还是记录在表中。它有两个取值范围,分别是FILE或者TABLE。如果relay_log_info_repository=FILE,会在relaylog同级的磁盘目录下,生成relay-log.info文件,用于记录当前relaylog的日志偏移量和master节点上面的binlog日志偏移量。如下是配置为FILE的时候,relay-log.info日志文件的位置信息和内容信息:
root@slave3:/var/lib/mysql# pwd/var/lib/mysqlroot@slave3:/var/lib/mysql# ls -lstr *relay*4 -rw-r----- 1 mysql mysql 343 Jan 4 17:40 mysql-relay.0000384 -rw-r----- 1 mysql mysql 203 Jan 4 17:40 mysql-relay.0000394 -rw-r----- 1 mysql mysql 320 Jan 4 17:40 mysql-relay.0000404 -rw-r----- 1 mysql mysql 84 Jan 4 17:40 worker-relay-log.info.14 -rw-r----- 1 mysql mysql 84 Jan 4 17:40 worker-relay-log.info.24 -rw-r----- 1 mysql mysql 84 Jan 4 17:40 worker-relay-log.info.34 -rw-r----- 1 mysql mysql 84 Jan 4 17:40 worker-relay-log.info.44 -rw-r----- 1 mysql mysql 84 Jan 4 17:40 worker-relay-log.info.54 -rw-r----- 1 mysql mysql 84 Jan 4 17:40 worker-relay-log.info.64 -rw-r----- 1 mysql mysql 63 Jan 4 17:40 mysql-relay.index4 -rw-r----- 1 mysql mysql 55 Jan 4 17:40 relay-log.inforoot@slave3:/var/lib/mysql# more relay-log.info7./mysql-relay.000038320mysql-bin.000008315001# 当使用逻辑时钟的方式来优化从节点执行relaylog日志速度的时候,会有多个这样的.info文件生成。# 逻辑时钟配置为几个,这里就有几个对应的.info文件,后面跟着数字来区分。root@slave3:/var/lib/mysql# more worker-relay-log.info.330000064root@slave3:/var/lib/mysql#当把relay_log_info_repository的值改为TABLE之后,上面列出来的关于ls -lstr *relay*info*输出的.info结尾的文件都会自动消失不见。这里需要注意一个问题:如果想把relay_log_info_repository原先配置的TABLE,想改为FILE,或者原先是FILE,想改为TABLE。除了把my.cnf配置文件中参数relay_log_info_repository值改为想设置的值之外,还需要登录到MySQL的从节点命令行中,使用stop slave的命令停止从节点同步任务,然后再执行set global relay_log_info_repository=xxxx的命令,然后再使用start slave命令启动从节点同步任务,这样才可以切换成功。否则可能会有如下的错误提示
2021-01-04T09:34:56.967913Z 0 [Warning] It is not possible to change the type of the relay log repository because there are workers repositories with possible execution gaps. The value of --relay_log_info_repository is altered to one of the found Worker repositories. The gaps have to be sorted out before resuming with the type change.mysql> set GLOBAL relay_log_info_repository='file';ERROR 3081 (HY000): This operation cannot be performed with running replication threads; run STOP SLAVE FOR CHANNEL '' firstmysql> set GLOBAL relay_log_info_repository='table';ERROR 3081 (HY000): This operation cannot be performed with running replication threads; run STOP SLAVE FOR CHANNEL '' firstmysql>如果relay_log_info_repository=TABLE,则不会生成relay-log.info文件,信息会记录在mysql.slave_relay_log_info的表中,推荐使用这种方式,方便查看主节点和从节点的日志偏移量信息。如下所示:
mysql> select * from mysql.slave_relay_log_info\G*************************** 1. row *************************** Number_of_lines: 7 Relay_log_name: ./mysql-relay.000026 Relay_log_pos: 4 Master_log_name: mysql-bin.000007 Master_log_pos: 2235 Sql_delay: 0Number_of_workers: 6 Id: 1 Channel_name:1 row in set (0.01 sec)relay_log_purge:开启或关闭在不需要的时候自动删除中转日志,默认开启。这是个全局变量,可以通过SET GLOBAL relay_log_purge=0 进行动态的设置。relay_log_recovery:假如slave从库宕机后,很有可能导致relay log日志文件损坏,导致一部分中继日志没有处理。如果参数设置为开启ON的状态,则自动放弃所有未执行的relay log,并且重新从master上获取对应的日志,这样就保证了relay-log的完整性。默认情况下该功能是关闭的,将relay_log_recovery的值设置为ON时,可在slave从库上开启这个功能,建议将relay_log_recovery设置为ON。relay_log_space_limit:防止中继日志写满磁盘,这里设置中继日志最大限额。但此设置存在主库崩溃,从库中继日志不全的情况,不到万不得已,不推荐使用。设置为0表示不启用该功能。该参数的默认值就是0。sync_relay_log:这个参数和sync_binlog是一样的,它觉得了什么时候把从主节点同步过来的relaylog的内容刷新到磁盘中。如果sync_relay_log = 0,从主节点同步过来的relaylog日志内容并不会马上被刷新到磁盘中,而是由操作系统自己决定什么时候将同步过来的内容刷新到磁盘。如果sync_relay_log = N > 0,此时MySQL会在每间隔N个事件后,将relaylog的内容同步刷新到磁盘。此时有可能会导致丢失事务内容。建议是设置为1,slave的I/O线程每次接收到master发送过来的binlog日志都要写入系统缓冲区,然后刷入relay log中继日志里,这样是最安全的,因为在崩溃的时候,你最多会丢失一个事务,但会造成磁盘的大量I/O。详细请参考::在sync_relay_log_info = 0的情况下:如果relay_log_info_repository=FILE, 表示relaylog日志偏移量记录在日志文件relay-log.info中,由操作系统自己决定什么时候把relaylog日志的偏移量刷新到 relay-log.info 文件中。如果 relay_log_info_repository=TABLE,表示relaylog日志偏移量记录在表mysql.slave_relay_log_info里面,如果这个表支持事务,例如是innodb存储引擎的表,那么表mysql.slave_relay_log_info中的数据内容会在每一个事务结束之后都会被更新。如果 relay_log_info_repository=TABLE,表示relaylog日志偏移量记录在表mysql.slave_relay_log_info里面,如果这个表不支持事务,例如是myisam存储引擎的表,那么表mysql.slave_relay_log_info里面的信息永远不会被更新。在sync_relay_log_info = N > 0的情况下:如果relay_log_info_repository=FILE, 表示relaylog日志偏移量记录在日志文件relay-log.info中,会每隔N个事务把relaylog日志的偏移量刷新到 relay-log.info 文件中。如果 relay_log_info_repository=TABLE,表示relaylog日志偏移量记录在表mysql.slave_relay_log_info里面,如果这个表支持事务,例如是innodb存储引擎的表,那么表mysql.slave_relay_log_info中的数据内容会在每一个事务结束之后都会被更新。如果 relay_log_info_repository=TABLE,表示relaylog日志偏移量记录在表mysql.slave_relay_log_info里面,如果这个表不支持事务,例如是myisam存储引擎的表,那么表mysql.slave_relay_log_info里面的信息会每间N个事件更新一次。推荐使用relay_log_info_repository=TABLE,并且表mysql.slave_relay_log_info为innodb引擎表,这样的配置。这样的配置此时参数sync_relay_log_info的配置就不起作用了。详细请参考:
relay log日志的清除
relaylog的删除,一般情况下不需要我们手动的去做。因为在MySQL的slave从节点上,当SQL集成读取完对应的relaylog日志之后,这个relaylog就被删除了,不需要我们手动去删除。
当我们执行reset slave或者reset slave all命令的时候,它就会重新生成一个新的relaylog日志文件,文件名称按照序号有序的递增。
最后
relaylog的介绍就到这里了,后面我会分享redo log重做日志的相关内容,敬请期待。