FAQ-current running txns on db 10194 is 100, larger than limit 100

问题描述/异常栈

current running txns on db 10194 is 100, larger than limit 100

FAQ-current running txns on db xx is xx - 图1

解决方案

以下参数供参考,整体思路是限制写入并发
target.batchSize=100000
ndi.spark.spark-conf.spark.dynamicAllocation.maxExecutors=4

问题原因

max_running_txn_num_per_db
默认值:100
是否可以动态配置:true
是否为 Master FE 节点独有的配置项:true
这个配置主要是用来控制同一个 db 的并发导入个数的。
当集群中有过多的导入任务正在运行时,新提交的导入任务可能会报错:
 current running txns on db xxx is xx, larger than limit xx
该遇到该错误时,说明当前集群内正在运行的导入任务超过了该配置值。此时建议在业务侧进行等待并重试导入任务。
一般来说不推荐增大这个配置值。过高的并发数可能导致系统负载过大

作者:林帅