任务开发

步骤一:从左侧导航栏选择【开发运维】-【离线开发】进入离线开发页面。

1.png

步骤二:选择已创建的cookbook文件夹,右键选择“新建文件夹”。

2.png

步骤三:输入文件夹名称dwd,点击“确定”完成配置。

3.png

步骤四:选择已创建的dwd文件夹,右键选择“新建任务”。

4.png

步骤五:在弹出的对话框中填写任务名称dwd_trade_order_df,其它配置可选择默认。

5.png

步骤六:将SQL节点拖入到画布中,命名为dwd_trade_order_df_1,将SQL节点和虚拟节点进行连接。

6.png

步骤七:双击SQL节点,在SQL编辑器中,复制粘贴如下代码。

INSERT
  OVERWRITE TABLE 库名.dwd_trade_order_df partition (dt = '${azkaban.flow.1.days.ago}')
select
  t1.order_id,
  t1.cus_id,
  t2.cus_name,
  t2.age,
  t1.item_id,
  t1.qty,
  t1.amount,
  t1.order_date,
  t3.item_name,
  t2.cus_address,
  t2.ip,
  t2.id_card,
  t3.brand
from
  (
    SELECT
      order_id,
      cus_id,
      item_id,
      qty,
      amount,
      order_date
    FROM
      库名.ods_order_info_df
    where
      dt = '${azkaban.flow.1.days.ago}'
  ) t1
  left join (
    select
      cus_id,
      cus_name,
      age,
      cus_address,
      ip,
      id_card
    from
      库名.dim_customer_cus_info_df
    where
      dt = '${azkaban.flow.1.days.ago}'
  ) t2 on t1.cus_id = t2.cus_id
  left join (
    select
      item_id,
      item_name,
      brand
    from
      库名.dim_product_item_info_df
    where
      dt = '${azkaban.flow.1.days.ago}'
  ) t3 on t1.item_id = t3.item_id;

步骤八:全选任务,点击“设置并运行”进行测试。

8.png

步骤九:在弹出的对话框中,使用默认配置点击“运行”即可。

9.png

步骤十:运行成功后,任务显示测试通过标记,此时可全选任务进行提交上线操作。

10.png

步骤十一:在弹出的对话框中输入备注信息,并点击“提交上线”按钮完成提交。

11.png

调度配置

步骤一:提交上线后的任务可在【线上模式】进行操作,点击编辑调度按钮进行调度编辑。

21.png

步骤二:选择“全部开启”,点击“设置并提交调度”。

22.png

步骤三:在【编辑调度】的页面,需要进行调度、跨流依赖以及执行设置,此处主要介绍跨流依赖跨流设置方法,点击“智能推荐”按钮。

23.png

步骤四:在【任务依赖的智能推荐】的页面查看节点输出表和输入表,勾选后点击“下一步”。

24.png

步骤五:检查依赖关系,确认无误后,点击“完成”按钮完成配置。

25.png

步骤六:智能推荐仅支持sql节点,因此还需要增对数据传输节点的依赖,点击“编辑”按钮。

26.png

步骤七:在依赖任务中选择,在依赖节点中选择【末级节点】,并点击“添加”按钮。

27.png

步骤八:点击“确定”按钮,完成调度编辑。

28.png

步骤九:在弹出的对话框中,点击“提交按钮”完成配置。

29.png