环境信息:
spark-3.1.2 tispark-assembly-3.1_2.12-3.0.2.jar tidb5.4
问题现象:启动spark的thrift服务,通过hive的jdbc连接到tidb集群之后,show databases 无法显示tidb集群的库名等信息,tispark-assembly-2.5.0是可以的,是因为新版tispark jar包没有兼容hive jdbc吗
环境信息:
spark-3.1.2 tispark-assembly-3.1_2.12-3.0.2.jar tidb5.4
问题现象:启动spark的thrift服务,通过hive的jdbc连接到tidb集群之后,show databases 无法显示tidb集群的库名等信息,tispark-assembly-2.5.0是可以的,是因为新版tispark jar包没有兼容hive jdbc吗
spark 3.+需要切换catalog
$SPARK_HOME/conf/spark-defaults.conf 需要额外增加 catalog 设置,指定 PD 地址。示例如下:
# For TiSpark version >= 2.5.0, please add the following additional configuration to enable Catalog provided by spark-3.0.
spark.sql.catalog.tidb_catalog org.apache.spark.sql.catalyst.catalog.TiCatalog
spark.sql.catalog.tidb_catalog.pd.addresses 192.168.3.221:2379,192.168.3.222:2379,192.168.3.223:2379
catalog选择了没
这个加了的,反复确认过的
这个可以