FAQ-如何优化hive->mysql hdfs上只有一个文件 写入mysql耗时太长
更新时间: 2025-04-15 21:47:18
阅读 1629
问题描述
问题描述/异常栈
hive->mysql,hdfs上只有一个文件,只起了一个task任务写入mysql,耗时太长如何优化?
解决方案
jdbc连接串增加属性rewriteBatchedStatements=true
或者mysql侧的加入高级配置:key:urlSuffix,value:rewriteBatchedStatements=true
或添加并发度repartitionNum=10
问题原因
参照:https://www.jianshu.com/p/04d3d235cb9f
作者:常惠渊
文档反馈
以上内容对您是否有帮助?