INFO-amoro大量表处于pending状态

适用模块

amoro

具体说明

amoro大量表处于pending状态,导致表查询速度变慢,也可能与spark调度任务冲突导致已删除文件找不到报错。

INFO-amoro大量表处于pending状态解决 - 图1

优化示例

1、在队列资源充足的情况下调大并发以增加optimizer任务的并行度,增加处理效率

切换mammut_qa项目,找到optimizer实时开发任务,
可以进行任务复制,多开几个optimizer任务增大处理效率,
修改并行度,并配置flink 任务的参数taskmanager.memory.managed.fraction  0.1
避免TM的内存浪费,修改后停止并且直接启动任务。

main.args:-a thrift://{ams安装host}:1261 -g default -p {flink任务并发度} -id {optimzer 任务名,例如amoro_optimizer_1}

INFO-amoro大量表处于pending状态解决 - 图2 amoro页面情况如下 INFO-amoro大量表处于pending状态解决 - 图3 2、修改后台参数增加并行度

cd /mnt/data01/amoro-0.8.0.2/conf
vi config.yaml
max-planning-parallelism改为10
保存后重启amoro
cd /mnt/data01/amoro-0.8.0.2/bin
./ams.sh stop
./ams.sh run

INFO-amoro大量表处于pending状态解决 - 图4


作者:楚展航