MySQL之binlog 和 ibdata1

分类:Mysql |

一. MySQL中的binlog日志记录了数据库中数据的变动,便于对数据的基于时间点和基于位置的恢复,但是binlog也会日渐增大,占用很大的磁盘空间,因此,要对binlog使用正确安全的方法清理掉一部分没用的日志。 主要记录 INSERT,UPDATE,DELETE , CREATE, DROP 直接操作表的情况, 而不记录 SELECT 的操作


a. 查看log情况

    show master logs;

    Or

    直接在目录内查看对应文件

b. binlog 分两部分: binlog 数据文件即类似  mysql-bin.000001 的文件, binlog 索引文件即 mysql-bin.index, 

    mysql服务启动时会根据 mysql-bin.index 去检查对应的 bin数据文件

    

1. 安全的手动清理binlog, 清理前建议先将对应的binlog数据文件备份(直接copy), 以防万一,

    其实直接删除binlog数据文件,然后在mysql-bin.index 里使用vim去除对应的文件名称即可

    # cat mysql-bin.index

    ./mysql-bin.000005

    ./mysql-bin.000006

    ./mysql-bin.000007

    ./mysql-bin.000008  


    危险操作: 

    删除所有的二进制日志文件使用 RESET MASTER;

    执行该语句,所有二进制日志将被删除,mysql 会重新创建二进制日志,新的日志文件扩展名将重新从000001开始编号


    正确安全的删除方式: 

    只删除部分二进制日志文件使用PURGE MASTER LOGS;

    语法如下

    PURGE {MASTER | BINARY} LOGS TO 'log_name'

    PURGE {MASTER | BINARY} LOGS BEFORE 'date'  2018-01-01 01:01:01


    注: 

    第一种方法指定文件名,执行该命令将删除文件名编号比指定文件名编号小的所有日志文件

    比如: 执行 PURGE MASTER LOGS TO 'mysql-bin.000007' 后: 

    文件

    cat mysql-bin.index

    ./mysql-bin.000007

    ./mysql-bin.000008

    

    第二种方法指定日期,执行该命令将删除指定日期以前的所有日志文件

    purge master logs before '2018-01-01 18:20:00'; //删除指定日期以前的日志索引中binlog日志文件

    

    时间和文件名一定不可以写错,尤其是时间中的年和文件名中的序号,以防不小心将正在使用的binlog删除!!!

    切勿删除正在使用的binlog, 会将对应的文件和mysql-bin.index中的对应路径删除。


2. 通过设置binlog过期的时间,使系统自动删除binlog文件

    mysql> show variables like 'expire_logs_days'; 

    +------------------+-------+ 

    | Variable_name  | Value | 

    +------------------+-------+ 

    | expire_logs_days |   0  | 

    +------------------+-------+ 

    mysql> set global expire_logs_days = 30;    #设置binlog多少天过期


    注:过期时间设置的要适当,对于主从复制,要看从库的延迟决定过期时间,避免主库binlog还未传到从库便因过期而删除,导致主从不一致!

  3. binlog 

      binlog_format           = MIXED      //binlog日志格式,mysql默认采用statement,建议使用mixed

      log-bin                 = mysql-bin  //binlog日志文件

      expire_logs_days        = 7          //binlog过期清理时间

      max_binlog_size         = 100m       //binlog每个日志文件大小, 默认 1G

      binlog_cache_size       = 4m         //binlog缓存大小

      max_binlog_cache_size   = 512m       //最大binlog缓存大小


二. ibdata1 文件: 


    #mysqldump -q -uroot -ppassword --add-drop-table --all-databases >/home/backup/all.sql

    打开my.ini或my.cnf文件

    [mysqld]下增加下面配置

    innodb_file_per_table=1


    验证配置是否生效,可以重启mysql后,执行

    # service mysqld restart

    # mysql -uroot -ppassword

    mysql> show variables like '%per_table%';

    +-----------------------+-------+

    | Variable_name | Value |

    +-----------------------+-------+

    | innodb_file_per_table | ON |

    +-----------------------+-------+

    1 row in set (0.00 sec)

    

关闭mysql,删除ibdata1和ib_logfile*文件,启动mysql,完成。


mysql复制主要有三种方式:基于SQL语句的复制(statement-based replication, SBR),基于行的复制(row-based replication, RBR),混合模式复制(mixed-based replication, MBR)。对应的,binlog的格式也有三种:STATEMENT,ROW,MIXED。


① STATEMENT模式(SBR)


每一条会修改数据的sql语句会记录到binlog中。优点是并不需要记录每一条sql语句和每一行的数据变化,减少了binlog日志量,节约IO,提高性能。缺点是在某些情况下会导致master-slave中的数据不一致(如sleep()函数, last_insert_id(),以及user-defined functions(udf)等会出现问题)


② ROW模式(RBR)


不记录每条sql语句的上下文信息,仅需记录哪条数据被修改了,修改成什么样了。而且不会出现某些特定情况下的存储过程、或function、或trigger的调用和触发无法被正确复制的问题。缺点是会产生大量的日志,尤其是alter table的时候会让日志暴涨。


③ MIXED模式(MBR)


以上两种模式的混合使用,一般的复制使用STATEMENT模式保存binlog,对于STATEMENT模式无法复制的操作使用ROW模式保存binlog,MySQL会根据执行的SQL语句选择日志保存方式。

 

binlog复制配置


在mysql的配置文件my.cnf中,可以通过一下选项配置binglog相关


 代码如下复制代码

binlog_format           = MIXED                         //binlog日志格式,mysql默认采用statement,建议使用mixed

log-bin                 = /data/mysql/mysql-bin.log    //binlog日志文件

expire_logs_days        = 7                           //binlog过期清理时间

max_binlog_size         = 100m                       //binlog每个日志文件大小

binlog_cache_size       = 4m                        //binlog缓存大小

max_binlog_cache_size   = 512m                     //最大binlog缓存大小


三 MIXED说明


对于执行的SQL语句中包含now()这样的时间函数,会在日志中产生对应的unix_timestamp()*1000的时间字符串,slave在完成同步时,取用的是sqlEvent发生的时间来保证数据的准确性。另外对于一些功能性函数slave能完成相应的数据同步,而对于上面指定的一些类似于UDF函数,导致Slave无法知晓的情况,则会采用ROW格式存储这些Binlog,以保证产生的Binlog可以供Slave完成数据同步。


现在来比较以下 SBR 和 RBR 2中模式各自的优缺点:


SBR 的优点:


历史悠久,技术成熟

binlog文件较小

binlog中包含了所有数据库更改信息,可以据此来审核数据库的安全等情况

binlog可以用于实时的还原,而不仅仅用于复制

主从版本可以不一样,从服务器版本可以比主服务器版本高



SBR 的缺点:


不是所有的UPDATE语句都能被复制,尤其是包含不确定操作的时候。

调用具有不确定因素的 UDF 时复制也可能出问题

使用以下函数的语句也无法被复制:

* LOAD_FILE()

* UUID()

* USER()

* FOUND_ROWS()

* SYSDATE() (除非启动时启用了 --sysdate-is-now 选项)

INSERT ... SELECT 会产生比 RBR 更多的行级锁

复制需要进行全表扫描(WHERE 语句中没有使用到索引)的 UPDATE 时,需要比 RBR 请求更多的行级锁

对于有 AUTO_INCREMENT 字段的 InnoDB表而言,INSERT 语句会阻塞其他 INSERT 语句

对于一些复杂的语句,在从服务器上的耗资源情况会更严重,而 RBR 模式下,只会对那个发生变化的记录产生影响

存储函数(不是存储过程)在被调用的同时也会执行一次 NOW() 函数,这个可以说是坏事也可能是好事

确定了的 UDF 也需要在从服务器上执行

数据表必须几乎和主服务器保持一致才行,否则可能会导致复制出错

执行复杂语句如果出错的话,会消耗更多资源


RBR 的优点:


任何情况都可以被复制,这对复制来说是最安全可靠的

和其他大多数数据库系统的复制技术一样

多数情况下,从服务器上的表如果有主键的话,复制就会快了很多

复制以下几种语句时的行锁更少:

* INSERT ... SELECT

* 包含 AUTO_INCREMENT 字段的 INSERT

* 没有附带条件或者并没有修改很多记录的 UPDATE 或 DELETE 语句

执行 INSERT,UPDATE,DELETE 语句时锁更少

从服务器上采用多线程来执行复制成为可能


RBR 的缺点:


binlog 大了很多

复杂的回滚时 binlog 中会包含大量的数据

主服务器上执行 UPDATE 语句时,所有发生变化的记录都会写到 binlog 中,而 SBR 只会写一次,这会导致频繁发生 binlog 的并发写问题

UDF 产生的大 BLOB 值会导致复制变慢

无法从 binlog 中看到都复制了写什么语句

当在非事务表上执行一段堆积的SQL语句时,最好采用 SBR 模式,否则很容易导致主从服务器的数据不一致情况发生



另外,针对系统库 mysql 里面的表发生变化时的处理规则如下:

如果是采用 INSERT,UPDATE,DELETE 直接操作表的情况,则日志格式根据 binlog_format 的设定而记录

如果是采用 GRANT,REVOKE,SET PASSWORD 等管理语句来做的话,那么无论如何都采用 SBR 模式记录

注:采用 RBR 模式后,能解决很多原先出现的主键重复问题。