ticdc同步tidb数据到kafka时报Message was too large

[qhd2004]

【 TiDB 使用环境】
【概述】：场景 + 问题概述
使用ticdc同步tidb中数据到kafka中，现在出现报错Message was too large，如下图

我的问题是
1，此时我是要调整kafka中参数，对吧？
设置kafka server接收的最大消息大小，应小于等于socket.request.max.bytes
message.max.bytes=10485760
replica.fetch.max.bytes=10485760
fetch.message.max.bytes=10485760

2，图中的checkpoint和tso还在变化，说明，这时cdc还在工作，但是下游的kafka应该是接收不了数据了，对吧？

3，如果我要过滤掉一些表，但是这些表分布在不同库中，我是不是要在同步任务的配置文件中，在rules这里把所有表都要写出来，是吧？例如，我想过滤掉test库syk表，moe库中moe表那要如下写

rules = ['*.*', '!test.syk','!moe.moe']

【背景】：做过哪些操作
【现象】：业务和数据库现象
【问题】：当前遇到的问题
【业务影响】：
【TiDB 版本】：
v5.1.1

【附件】：

• 相关日志
• 配置文件
• Grafana 监控（https://metricstool.pingcap.com/)

[hey-hoho]

是不是调了单个事务大小限制 txn-total-size-limit参数

[qhd2004]

@hey-hoho

txn-total-size-limit

调整了，如下

[hey-hoho]

参考下这个：
https://docs.pingcap.com/zh/tidb/stable/troubleshoot-ticdc#使用-ticdc-同步消息到-kafka-时-kafka-报错-message-was-too-large

[hey-hoho]

关于你的三个问题：
1、按照上面发的链接试试，也就是你贴出来的几个参数
2、CDC还在工作
3、过滤规则是对的

[qhd2004]

调整参数为1073741824

但是报出kafka不能访问

而kafka我们重启后是可以telnet的

其中10.96.12.220是我们做一个代理

[qhd2004]

可以了，谢谢！
[appadmin@walle91228 ~]$ tiup ctl:v5.1.1 cdc changefeed pause --pd=http://10.97.6.46:2379 --changefeed-id cdc-to-kafka-use-canal-json
Starting component ctl: /home/appadmin/.tiup/components/ctl/v5.1.1/ctl cdc changefeed pause --pd=http://10.97.6.46:2379 --changefeed-id cdc-to-kafka-use-canal-json
[appadmin@walle91228 ~]$ tiup ctl:v5.1.1 cdc changefeed list --pd=http://10.97.6.46:2379
Starting component ctl: /home/appadmin/.tiup/components/ctl/v5.1.1/ctl cdc changefeed list --pd=http://10.97.6.46:2379
[
{
“id”: “cdc-to-kafka-use-canal-json”,
“summary”: {
“state”: “stopped”,
“tso”: 428802275389210626,
“checkpoint”: “2021-11-01 15:14:27.421”,
“error”: {
“addr”: “10.97.13.194:8300”,
“code”: “CDC:ErrOwnerUnknown”,
“message”: “[CDC:ErrKafkaNewSaramaProducer]kafka: client has run out of available brokers to talk to (Is your cluster reachable?)”
}
}
}
]
[appadmin@walle91228 ~]$ tiup ctl:v5.1.1 cdc changefeed resume --pd=http://10.97.6.46:2379 --changefeed-id cdc-to-kafka-use-canal-json
Starting component ctl: /home/appadmin/.tiup/components/ctl/v5.1.1/ctl cdc changefeed resume --pd=http://10.97.6.46:2379 --changefeed-id cdc-to-kafka-use-canal-json
[appadmin@walle91228 ~]$ tiup ctl:v5.1.1 cdc changefeed list --pd=http://10.97.6.46:2379
Starting component ctl: /home/appadmin/.tiup/components/ctl/v5.1.1/ctl cdc changefeed list --pd=http://10.97.6.46:2379
[
{
“id”: “cdc-to-kafka-use-canal-json”,
“summary”: {
“state”: “normal”,
“tso”: 428802275389210626,
“checkpoint”: “2021-11-01 15:14:27.421”,
“error”: null
}
}
]
[appadmin@walle91228 ~]$ tiup ctl:v5.1.1 cdc changefeed list --pd=http://10.97.6.46:2379
Starting component ctl: /home/appadmin/.tiup/components/ctl/v5.1.1/ctl cdc changefeed list --pd=http://10.97.6.46:2379
[
{
“id”: “cdc-to-kafka-use-canal-json”,
“summary”: {
“state”: “normal”,
“tso”: 428802275389210626,
“checkpoint”: “2021-11-01 15:14:27.421”,
“error”: null
}
}
]
[appadmin@walle91228 ~]$ tiup ctl:v5.1.1 cdc changefeed list --pd=http://10.97.6.46:2379
Starting component ctl: /home/appadmin/.tiup/components/ctl/v5.1.1/ctl cdc changefeed list --pd=http://10.97.6.46:2379
[
{
“id”: “cdc-to-kafka-use-canal-json”,
“summary”: {
“state”: “normal”,
“tso”: 428802283397447705,
“checkpoint”: “2021-11-01 15:14:57.970”,
“error”: null
}
}
]
[appadmin@walle91228 ~]$ tiup ctl:v5.1.1 cdc changefeed list --pd=http://10.97.6.46:2379
Starting component ctl: /home/appadmin/.tiup/components/ctl/v5.1.1/ctl cdc changefeed list --pd=http://10.97.6.46:2379
[
{
“id”: “cdc-to-kafka-use-canal-json”,
“summary”: {
“state”: “normal”,
“tso”: 428802285547028489,
“checkpoint”: “2021-11-01 15:15:06.170”,
“error”: null
}
}
]