binlog + pump+drainer 下游和上游数据不一致

为提高效率,请提供以下信息,问题描述清晰能够更快得到解决:
【 TiDB 使用环境】v.5.0.0

【概述】 场景 + 问题概述
tidb集群,3个pump, 1个drainer
操作:
1,扩容加入pump节点
2, dump+tidb-lightning 全量同步数据到下游
3,扩容加入drainer节点

  操作完后,发现下游和上游数据不一致(表记录条数都不一样) 

【备份和数据迁移策略逻辑】

【背景】 做过哪些操作

【现象】 业务和数据库现象

【问题】 当前遇到的问题

【业务影响】

【TiDB 版本】

【附件】

  • 相关日志、配置文件、Grafana 监控(https://metricstool.pingcap.com/)
  • TiUP Cluster Display 信息
  • TiUP CLuster Edit config 信息
  • TiDB-Overview 监控
  • 对应模块的 Grafana 监控(如有 BR、TiDB-binlog、TiCDC 等)
  • 对应模块日志(包含问题前后 1 小时日志)

若提问为性能优化、故障排查类问题,请下载脚本运行。终端输出的打印结果,请务必全选并复制粘贴上传。

1 个赞
  1. 如何对比的数据,上下游数据差多少?
  2. 增量数据如何同步的?
1 个赞

1,查了几个表的记录条数不一致;
2,增量是通过pump和drainer

1 个赞
  1. 怎么查的,直接count吗?上下游数据差多少?
  2. 查一下哪些数据不存在,看看是不是业务有变化。可以先找一条不存在的查一下。
1 个赞

你好,对的,直接count。
下午不一致后,我重新清掉下游数据,再全量同步了一次,启动drainer后发现增量不同步。

业务停掉了,我在上游drop掉一个表,等了一会下游那个表还在,admin show ddl jobs里也没有看大drop任务

1 个赞

现在想咨询下为什么没有增量同步,查pump和drainer的状态都是online,上下游也没看到log报错,谢谢!

image

1 个赞

看了下下游binlog status是off
image

1 个赞

上游binglog_status是skipping:

请问这个要怎么处理? 谢谢!

1 个赞

[FAQ] drainer 无报错,但是不产生 binlog 到下游 说设置ignore-error, 我看了下上游是设置成true了
image

1 个赞

这个问题先关闭吧,我新提了个不同步的问题 drainer不实时同步,上游binlog_status 是skipping

1 个赞

此话题已在最后回复的 1 分钟后被自动关闭。不再允许新回复。