问题描述

问题描述/异常栈

传输任务已经增加sparkexecutordriver内存到很大(16G),但是日志还是一直报GC

解决方案

检查下传输任务的参数配置

问题原因

在参数中添加了target.batchSize这个参数到1000000,因为这个参数值太大所以导致内存一直不够,把这个参数值调小即可

作者:常惠渊