非常感谢各位提供的思路和建议，现在问题基本找到了，在这里反馈一下。
内存不断升高确实是因为v6.1.0默认开启了 tidb_enable_prepared_plan_cache，执行计划缓存导致内存慢慢升高。
预留内存参数 tidb_prepared_plan_cache_memory_guard_ratio 阈值太小了，默认0.1，计划缓存最大可以占用90%。
如果接近阈值时，有大sql或高并发，瞬时内存可能就达到tidb-server 最大内存限制，导致tidb-server节点重启。
目前通过手动释放节点计划缓存 ADMIN FLUSH INSTANCE PLAN_CACHE ，节点内存马上降到10g以下。
计划调大预留内存 tidb_prepared_plan_cache_memory_guard_ratio 参数。