FAQ-如何优化hive->mysql hdfs上只有一个文件 写入mysql耗时太长
更新时间: 2024-03-11 02:48:43
阅读 1520
问题描述
问题描述/异常栈
hive->mysql,hdfs上只有一个文件,只起了一个task任务写入mysql,耗时太长如何优化?
解决方案
jdbc连接串增加属性rewriteBatchedStatements=true
或者mysql侧的加入高级配置:key:urlSuffix,value:rewriteBatchedStatements=true
或添加并发度repartitionNum=10
问题原因
参照:https://www.jianshu.com/p/04d3d235cb9f
作者:常惠渊
文档反馈
以上内容对您是否有帮助?