tikv与pd打标签Labels问题

【概述】场景+问题概述
1.场景描述:公司有一套tidb v5.0.1的环境(3pd+3tikv+tiflash)在云服务器上,现在想将其迁移到本地机房,云服务器与本地机房通过一条云专线连接,为了防止云专线带宽被挤爆,迁移期间不允许tidb的读写流量流入到本地机房tikv,我们采用的是同城多数据中心的方法将云服务器与本地机房当做两个数据中心,通过对tikv和pd添加labels标签的方法进行隔离。
2.问题描述:
1)通过tiup cluster edit-config 命令对tikv打标签(此步骤正常);
server_configs:
pd:
replication.location-labels: [“dc”,“host”]

tikv_servers:
-host: 172.17.x.x
config:
server.labels: { dc: “d2”, host: “10” }
2)通过 pd-ctl config set location-labels dc,host 设置 PD 的 location-labels (此步骤异常)


我在论坛找到一篇帖子:在原实例上进行TiKV扩容的问题
该帖子上说需要设置config set enable-placement-rules false,但是我在设置的时候出现“cannot disable placement rules with TiFlash nodes”问题,请问这该怎么解决?

根据您的建议,我的理解是:
1、创建规则文件rule.json
{
“group_id”: “pd”,
“group_index”: 0,
“group_override”: false,
“rules”: [
{
“group_id”: “pd”,
“id”: “dc2”,
“start_key”: “”,
“end_key”: “”,
“role”: “voter”,
“count”: 3,
“label_constraints”: [
{“key”: “dc”, “op”: “in”, “values”: [“dc2”]}
],
“location_labels”: [“dc”, “host”]
},
{
“group_id”: “pd”,
“id”: “dc1”,
“start_key”: “”,
“end_key”: “”,
“role”: “follower”,
“count”: 3,
“label_constraints”: [
{“key”: “dc”, “op”: “in”, “values”: [“dc1”]}
],
“location_labels”: [“dc”, “host”]
}
]
}

2、使用rule-bundle添加规则
pd-ctl config placement-rules rule-bundle set pd --in=“rule.json”

请问我的理解是否正确?

另外我还有两点没搞明白,
a)我用tiup cluster edit-config 命令将6个tikv节点分别标注了dc1、dc2,而6个pd节点并没有打标签,如何防止本地机房的pd将流量转到云服务器tikv上面呢?
b) config set label-property reject-leader LabelName labelValue驱逐leader与 上面json文件中的"role": "follower"有什么区别?

  1. 开启了 Placement rule 之后,参考 PD 这边 label 设置方法即可。
  2. 看 rule.json 的话目测是创建了两个 rule :dc1 和 dc2 . dc1 是只会有 follower 。
  3. TiKV leader 这块如果配置好的话。正常情况下只会在 dc2 ,所以如果在没有开启 follower read 的情况下。应该查询的流量都只会在 leader 所在的 dc 。
  4. PD 这块如果需要避免出现异地数据中心的 PD 成为 Leader,可以将本地数据中心的 PD 优先级调高, member leader_priority 。具体可以参考一下多中心的文档:https://docs.pingcap.com/zh/tidb/v4.0/multi-data-centers-in-one-city-deployment

您好,我给tikv和pd打完标签后运行tiup cluster display tidb-xxx报错:


不能进行扩容操作,我在扩容一台tikv时报错如下:

我的操作步骤如下:
1)通过tiup cluster edit-config 命令对tikv打标签



2)更改Placement Rules配置文件规则

请问一下对于原来的 store 通过 edit-config 打标签之后有没有 reload 呢?

reload过了:
tiup cluster reload cluster-name -R pd
tiup cluster reload cluster-name -R tikv
tiup cluster reload cluster-name -R tidb

您好,我用label store dc dc2命令看了,都已经打上标签了:

pd-ctl config show replication 的结果也看看。

image

看起来是 tiup 的一个已知的 label 的判断的 bug 。应该是 1.4.4 fix 的。建议先升级 tiup 再尝试。具体 fix 的 pr:
https://github.com/pingcap/tiup/pull/1378

我们现在的tiup版本是1.4.2,需要升级吗?

升级到 1.5.0 吧。1.4.4 之后才 fix 的这个问题。

您好,
按照您提供的方法已经解决label问题,非常感谢。有一个新的问题需要再咨询下:
PD leader和Region leader已经切换到本地机房服务器,云服务器上有3台tikv节点,使用tiup cluster scale-in --node xx.xx.xx.xx:20160命令已经正常缩容了2台tikv,但是使用该命令在缩容第3台tikv节点时发现服务器长时间没有数据迁移的流量产生,观察监控里面的region也没有变化,于是加了个–force参数强制下线了,请问这对现有的集群有什么影响?
image

用pd-ctl store查看到该节点的store还存在,是否需要使用store delete 4删除该节点的store呢?从中还看到有29532个region没有迁移到本地机房的tikv上,这是否意味着本地机房中再有一台tikv挂掉整个集群都会挂掉?这些丢失的region应该怎么在本地机房的tikv节点上补齐呢?

1赞