离线开发通过拖拉拽的方式快速构建任务流,支持数据同步、SQL节点、MR、Spark、Script、AI等任务节点,支持选择节点、嵌套流、虚拟节点控制节点,实现敏捷性的数据开发。

    连锁便利店的数据已通过模型设计中心完成了对主题域、表分层和表设计规则的组织,生成了规范化设计的数据表,且也通过数据测试中心对数据进行了初步的探查工作,接下来可以基于已经生成的规范表,在离线开发中执行ETL加工过程。打开导航栏,点击离线开发进入产品页面。
    2021-08-27-14-09-02.png

    在左上角点击新建文件夹图标,本示例中文件夹名为cookbook示例任务,确认创建后,在离线开发页面左侧,呈现创建好的文件夹。
    2021-08-27-14-09-13.png

    使用同样的方式,创建ODS、DWD、DWS、DIM和ADS文件夹,保存位置选择cookbook示例任务,用于分类管理不同层级的数仓开发任务。
    2021-08-27-14-09-25.png

    文件夹创建好之后,点击新建任务,填写任务名称,以ODS层的任务为例(数据传输的任务命名,建议采用{源端}2{目的端}的方式,比如mysql2hive表示将Mysql库下的数据导入Hive数据源中),本案例中任务名称命名为mysql2hive_cookbook,保存位置选择cookbook示例任务下的ODS文件夹,任务类型选择多节点任务。
    31 new01.png

    任务创建成功后,在画布正中间会呈现游离节点mysql2hive_cookbook,从右侧选择数据同步节点(具体使用的节点类型根据实际情况有所变动,本示例中通过数据同步节点完成数据集成任务),将节点从右侧拖拽到画布中间,选中节点,右键选择重命名,对节点进行命名(节点任务名称建议为ods_{source_table})。

    对于拖拽到画布中的节点,通过连接点与另外的节点关联,从而构建关联关系,以同样的方式,拖拽多个节点构建整个工作流。
    2021-08-27-14-10-08.png

    对于数据同步节点,双击打开节点,需要选择在数据集成模块创建的数据传输任务,比如ods_city_data该节点选择cookbook_city_data传输任务。
    2021-08-27-14-10-21.png

    以同样的方式,创建ODS-DIM-DWD-DWS-ADS文件夹,在不同的文件夹下创建对应的工作流,在cookbook示例任务文件夹下呈现各个分层下的多个任务流。
    2021-08-27-14-10-34.png

    对于SQL节点任务,双击打开节点,在SQL编辑器下书写语句,在其他设置页签下可以选择使用Hive或者Spark引擎执行。同时,在左侧还可以根据库表筛选定位数据表,查看表的字段信息,方便在写SQL语句时对表字段内容进行查询。
    2021-08-27-14-10-49.png

    任务创建完成之后,可以选择任务流中某个节点或者选择全部,在开发模式下点击设置并运行,在未提交上线之前先验证任务是否可成功运行,点击运行结果,可查看选中的节点任务的执行情况,支持查看日志、运行结果等内容。
    2021-08-27-14-11-05.png

    点击修改记录,可查看当前任务流在上次提交上线之后对于任务的修改详情(仅展示保存及对资源的相关操作),包括修改人、修改时间和对应的修改内容。
    2021-08-27-14-11-18.png

    若开发模式和线上模式下的任务流存在不一致,提交上线的功能按钮会有红点提示,建议将开发模式下的任务测试成功后,及时提交上线运行。
    2021-08-27-14-11-33.png

    点击提交上线,平台会针对当前任务流进行检测,给出结论,针对没有测试的任务节点也会罗列出来,每一次提交上线,均需要填写上线备注,便于数据开发后续查看每个上线版本所修改的内容(针对任务流是否需要强制走工单,可以在项目配置中的离线开发提交控制的强制走工单审批设置中进行配置)。
    2021-08-27-14-12-08.png

    任务提交上线后,会从开发模式被提交至线上模式,点击线上模式,可以针对已经提交至线上模式的任务编辑调度,可以选择将该工作组所有节点任务均提交上线,也支持只选择部分节点提交上线。
    2021-08-27-14-12-22.png

    点击设置并提交调度,会弹窗对任务提交上线的调度内容进行设置,包括设置调度周期、跨流依赖设置(是否依赖别的任务或者节点)以及任务执行设置(包括执行队列、失败设置和并发设置等内容)。调度设置中支持常规设置和crontab设置,选择crontab设置后,页面会切换为crontab语法,支持填写分钟、小时等灵活配置调度周期时间。
    2021-08-27-14-12-35.png
    2021-08-27-14-12-50.png

    本示例中我们以常规设置为调度配置,调度周期为1天,选择首次执行时间后,点击确定。如果节点有变更,页面会弹窗提醒是否需要继续提交调度。同时,平台默认对提交上线的节点任务自动配置失败报警,若节点任务失败,会通知任务的创建人,可根据需求取消自动报警配置功能。
    2021-08-27-14-13-07.png

    点击弹窗中的提交调度,任务被提交成功。至此完成了在离线开发产品中对任务的初步ETL加工以及任务调度,接下来可以在任务运维中心查看任务的执行情况。

    除了ODS层的任务流,针对DIM-DWD-DWS-ADS层级的任务流,需要添加任务依赖,在设置调度的弹框中,跨流依赖设置下点击添加任务依赖节点,选择依赖节点的名称,点击添加,在调度设置中会呈现当前任务流的依赖对象(需要注意的是,添加的依赖节点,必须是已经提交上线的任务流,比如A任务依赖B任务,则对A进行配置时,B任务需要已经提交上线,才可以被选择)。
    2021-08-27-14-13-21.png
    2021-08-27-14-13-39.png

    在开发模式下,对于任务的基本属性,可以点击右上角基本属性弹窗查看相关的负责人、创建人等信息。
    2021-08-27-14-13-54.png

    对于已经提交至线上的任务,切换到线上模式下。在编辑报警按钮旁边,点击详细信息,可弹框查看当前任务的调度信息、报警信息以及嵌套信息。
    2021-08-27-14-14-04.png