FAQ - hive2hbase一直内存溢出

问题描述/异常栈

io.netty.util.internal.OutOfDirectMemoryError: failed to allocate 65536 byte(s) of direct memory (used: 1073701888, max: 1073741824)

发现版本

LTS 650

解决方案

1、调大spark.executor.memoryOverhead
2hbase预划分100 region

FAQ - hive2hbase一直内存溢出 - 图1

问题原因

hbase未控制region信息,所有数据写入一个region导致异常

作者:xxx