问题描述

问题描述/异常栈

FAQ-离线开发传输节点支持优先级调度

用户在调度设置时,配置了优先级调度实际针对传输节点并未生效

如图: FAQ-离线开发传输节点支持优先级调度 - 图1 FAQ-离线开发传输节点支持优先级调度 - 图2 实际提交到yarn并没有生效 FAQ-离线开发传输节点支持优先级调度 - 图3

解决方案

传输节点-其他设置增加
azkaban.ndi.engine.spark.conf.spark.yarn.priority=40

FAQ-离线开发传输节点支持优先级调度 - 图4

问题原因

部分传输任务任然为spark2.x版本作业,针对cs调度队列以及集群spark3.x
版本才支持优先级调度
!!!!!!需注意,目前只支持spark3.x版本的传输任务

作者:陈杰