tispark-assembly-3.1_2.12-3.0.2.jar ,使用hive jdbc连接无法显示信息

环境信息:
spark-3.1.2 tispark-assembly-3.1_2.12-3.0.2.jar tidb5.4

问题现象:启动spark的thrift服务,通过hive的jdbc连接到tidb集群之后,show databases 无法显示tidb集群的库名等信息,tispark-assembly-2.5.0是可以的,是因为新版tispark jar包没有兼容hive jdbc吗

spark 3.+需要切换catalog

$SPARK_HOME/conf/spark-defaults.conf 需要额外增加 catalog 设置,指定 PD 地址。示例如下:

# For TiSpark version >= 2.5.0, please add the following additional configuration to enable Catalog provided by spark-3.0.
spark.sql.catalog.tidb_catalog org.apache.spark.sql.catalyst.catalog.TiCatalog
spark.sql.catalog.tidb_catalog.pd.addresses 192.168.3.221:2379,192.168.3.222:2379,192.168.3.223:2379

catalog选择了没

这个加了的,反复确认过的

这个可以

3 个赞