请问如何使用外部独立spark集群访问在k8s上的tiflash/tikv?

为提高效率,请提供以下信息,问题描述清晰能够更快得到解决:

2 个赞

修改配置 使用Nodeport

1 个赞
service:
  type: NodePort

直接在配置文件加上试一下

1 个赞

https://docs.pingcap.com/zh/tidb-in-kubernetes/stable/faq/#tidb-operator-支持-tispark-吗 k8s 集群外的 spark 不支持访问 tiflash/tikv。
另外,Spark 不会通过 service 访问 TiKV,肯定是通过 Pod 域名访问某个 TiKV,所以集群外除了要和集群内 Pod 网络打通,还要能解析 Pod 域名,这两个条件可以和贵司 k8s team 或者 infra team 确认是否能走通。

1 个赞

你提的这个问题,可能实现不了,因为spark从pd获取的tikv地址,是k8s的内部映射地址,外部不可能找到,替代方案是,spark也直接运行在k8s中,这样就没问题了

1 个赞

新写了个帖子,https://asktug.com/t/topic/422775,跑了一个demo是tispark on k8s的,希望对你有所帮助。

此话题已在最后回复的 1 分钟后被自动关闭。不再允许新回复。