需求反馈
【需求涉及的问题场景】
最近我们根关联房系统,在对齐。脱O的方案。此方案涉及到我们的核心功能。关联方是一张有200多个字段的表,但我们只需要其中一步份字段,而且只需要其中一部分数据。而且因为我们系统是直接面向用户的,所以要求这部分数据能实时的同步过来。避免用户看到不一致的数据。所以,我们采用了cdc到kafka的方案,并且做了列裁剪。但是依然不能满足要求。因为数据量过大,如果全量同步是不能满足要求的,所以就需要对数据进行筛选,研究了一下未发现tidb有提供此类功能。另外因为业务场景,我们需要在kafka消费时让数据按客户号顺序消费,客户好非表主键。未找到配置方式
【期望的需求行为】
在数据同步对同时对数据进行条件筛选,满足实时同步要求
【需求可替代方案】
暂无
【背景信息】
用户能实时查看客户数据,能够给客户提供精准对服务。
在kafka里面消费的时候做不了筛选?
大佬,kafka可以做筛选,但是不适用此场景。因为我们需要查数据库做校验,假如一天要做亿级别的查询,性能影响是不可接受的