Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 430|回复: 0

一次mysql主从同步问题及解决过程

[复制链接]
  • TA的每日心情
    奋斗
    2024-11-24 15:47
  • 签到天数: 804 天

    [LV.10]以坛为家III

    2053

    主题

    2111

    帖子

    72万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    726782
    发表于 2021-7-2 18:03:24 | 显示全部楼层 |阅读模式

    由于经常被抓取文章内容,在此附上博客文章网址:,偶尔会更新某些出错的数据或文字,建议到我博客地址 :  --> 点击这里

    前天进行表结构的修改,将其中一个表进行字段结构的扩展,从varchar(30)扩展到varchar(50),表数据是120万多条,在主库执行起来只用了40秒,而从库同步却要用2小时。

    虽然主库执行很快,但是影响的行数是120万行,从库是同步120万行的结构变化而去,而不是简单的执行sql命令修改从库。
    一开始并没有发现,后面当业务缓慢的时候,就开始感觉不对劲了,赶紧上了mysql上进行查看当前堵塞的mysql进程:

    show proccesslist

    这里的结果不是当时的结果(当时是很多查询均被堵塞):

    | Id     | User  | Host            | db   | Command     | Time   | State                                                                 | Info             |
    +--------+-------+-----------------+------+-------------+--------+-----------------------------------------------------------------------+------------------+
    | 722874 | bakup | 127.0.0.1:36759 | NULL | Binlog Dump | 281055 | Master has sent all binlog to slave; waiting for binlog to be updated | NULL             |
    | 991867 | root  | localhost       | NULL | Sleep       |    780 |                                                                       | NULL             |
    | 992585 | root  | localhost       | NULL | Query       |      0 | NULL                                                                  | show processlist |

    1.Id :进程id,你要kill一个语句的时候很有用。

    2.User:显示单前用户,如果不是root,这个命令就只显示你权限范围内的sql语句。

    3.Host:显示这个语句是从哪个ip的哪个端口上发出的

    4.db:显示这个进程目前连接的是哪个数据库

    5.Command:显示当前连接的执行的命令,休眠(sleep),查询(query),连接(connect),binlog(主从)

    6.Time:此这个状态持续的时间,单位是秒。

    7.State:显示使用当前连接的sql语句的状态,很重要的列,后续会有所有的状态的描述,请注意,state只是语句执行中的某一个状态,一个sql语句,已查询为例,可能需要经过copying to tmp table,Sorting result,Sending data等状态才可以完成,

    8.info:显示这个sql语句


    当下进行了杀掉堵塞进程,即同步修改结构的进程

     

    kill 722874

     

    得以恢复业务正常的查询,但是新的问题来了,主从被强制暂停,发生了错误,主库无法同步到从库,业务查询最新数据无法同步过来了。

    上从库查询命令(这里的结果不是当时的结果(当时是提示错误的信息)):

    (Mon Jun 26 20:49:40 2017) db_2 >>show slave status\G *************************** 1. row *************************** Slave_IO_State: Waiting for master to send event Master_Host: 127.0.0.1 Master_User: bakup Master_Port: 3306 Connect_Retry: 60 Master_Log_File: mysql-bin.000330 Read_Master_Log_Pos: 445043216 Relay_Log_File: 174-relay-bin.000043 Relay_Log_Pos: 445043362 Relay_Master_Log_File: mysql-bin.000330 Slave_IO_Running: Yes Slave_SQL_Running: Yes Replicate_Do_DB: Replicate_Ignore_DB: information_schema,mysql,performance_schema,test,zabbix,information_schema,mysql,performance_schema,test,zabbix Replicate_Do_Table: Replicate_Ignore_Table: Replicate_Wild_Do_Table: Replicate_Wild_Ignore_Table: Last_Errno: 0 Last_Error: Skip_Counter: 0 Exec_Master_Log_Pos: 445043216 Relay_Log_Space: 445043559 Until_Condition: None Until_Log_File: Until_Log_Pos: 0 Master_SSL_Allowed: No Master_SSL_CA_File: Master_SSL_CA_Path: Master_SSL_Cert: Master_SSL_Cipher: Master_SSL_Key: Seconds_Behind_Master: 0 Master_SSL_Verify_Server_Cert: No Last_IO_Errno: 0 Last_IO_Error: Last_SQL_Errno: 0 Last_SQL_Error: Replicate_Ignore_Server_Ids: Master_Server_Id: 1
    1 row in set (0.00 sec)

    于是找运维商议,采取了如下方法:

    1 恢复主库到改变字段前的状态
    2 停止主从二进制日志的写入,主从同步停止
    3 开始改变主库字段结构
    4 改变从库字段结构(注意此时主从同步已经停止)
    5 修正此前发生的同步错误
    6 恢复主从二进制日志的写入
    7 重新开启主从同步

    问题得以解决,40分钟左右。

    这次操作也是有点急促,本应该在夜晚后台几乎不被访问的时候,进行大数据量的结构改变比较好。当天也进行了评估,是2个小时内既可以成功。

    因此如果你不着急,那么在夜间进行同步修改是可以的。

    附,state 列信息:

    Checking table  正在检查数据表(这是自动的)。 Closing tables  正在将表中修改的数据刷新到磁盘中,同时正在关闭已经用完的表。这是一个很快的操作,如果不是这样的话,就应该确认磁盘空间是否已经满了或者磁盘是否正处于重负中。 Connect Out  复制从服务器正在连接主服务器。 Copying to tmp table on disk  由于临时结果集大于tmp_table_size,正在将临时表从内存存储转为磁盘存储以此节省内存。 Creating tmp table  正在创建临时表以存放部分查询结果。 deleting from main table  服务器正在执行多表删除中的第一部分,刚删除第一个表。 deleting from reference tables  服务器正在执行多表删除中的第二部分,正在删除其他表的记录。 Flushing tables  正在执行FLUSH TABLES,等待其他线程关闭数据表。 Killed  发送了一个kill请求给某线程,那么这个线程将会检查kill标志位,同时会放弃下一个kill请求。MySQL会在每次的主循环中检查kill标志位,不过有些情况下该线程可能会过一小段才能死掉。如果该线程程被其他线程锁住了,那么kill请求会在锁释放时马上生效。 Locked  被其他查询锁住了。 Sending data  正在处理SELECT查询的记录,同时正在把结果发送给客户端。 Sorting for group  正在为GROUP BY做排序。  Sorting for order  正在为ORDER BY做排序。 Opening tables  这个过程应该会很快,除非受到其他因素的干扰。例如,在执ALTER TABLE或LOCK TABLE语句行完以前,数据表无法被其他线程打开。正尝试打开一个表。 Removing duplicates  正在执行一个SELECT DISTINCT方式的查询,但是MySQL无法在前一个阶段优化掉那些重复的记录。因此,MySQL需要再次去掉重复的记录,然后再把结果发送给客户端。 Reopen table  获得了对一个表的锁,但是必须在表结构修改之后才能获得这个锁。已经释放锁,关闭数据表,正尝试重新打开数据表。 Repair by sorting  修复指令正在排序以创建索引。 Repair with keycache  修复指令正在利用索引缓存一个一个地创建新索引。它会比Repair by sorting慢些。 Searching rows for update  正在讲符合条件的记录找出来以备更新。它必须在UPDATE要修改相关的记录之前就完成了。 Sleeping  正在等待客户端发送新请求. System lock  正在等待取得一个外部的系统锁。如果当前没有运行多个mysqld服务器同时请求同一个表,那么可以通过增加--skip-external-locking参数来禁止外部系统锁。 Upgrading lock  INSERT DELAYED正在尝试取得一个锁表以插入新记录。 Updating  正在搜索匹配的记录,并且修改它们。 User Lock  正在等待GET_LOCK()。 Waiting for tables  该线程得到通知,数据表结构已经被修改了,需要重新打开数据表以取得新的结构。然后,为了能的重新打开数据表,必须等到所有其他线程关闭这个表。以下几种情况下会产生这个通知:FLUSH TABLES tbl_name, ALTER TABLE, RENAME TABLE, REPAIR TABLE, ANALYZE TABLE,或OPTIMIZE TABLE。 waiting for handler insert  INSERT DELAYED已经处理完了所有待处理的插入操作,正在等待新的请求。

     

    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2025-1-22 21:39 , Processed in 0.066099 second(s), 30 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表