更新合辑(2024年)
版本:v7.4.0
新增功能1.离线开发任务“同周期依赖”功能扩展
功能介绍:
- 离线开发任务已有的“同周期依赖”,仅针对上下游都是常规调度,且调度周期都是1天,且上下游需要有相同的调度日历和日历生效模式。
- 当前版本针对“同周期依赖”功能做了扩展,对于新创建的离线开发任务,当前任务的调度设置类型为“常规设置”时,会显示“同周期依赖”开关,且默认为开。切换到其它类型时,自动隐藏。对于新老任务,只要满足后图表格中列举的调度周期依赖场景,都支持同周期依赖。
- 已有的任务,保持原本的同周期依赖逻辑。提交上线时,系统检测到存在新的满足同周期依赖的场景,则会在检测页面提示:提交上线后上游依赖任务同周期依赖变为生效状态。
- 在任务调度设置页面,及线上模式下,调度依赖信息中会展示“同周期依赖生效”标记。
功能详细使用步骤:
a.功能入口: 离线开发任务开发模式-调度设置-依赖设置:
同周期依赖说明
2.自助分析选择GaussDB后支持使用“脚本模式”运行SQL
功能介绍:
- 自助分析选择GaussDB数据源后,会在数据源右侧出现“脚本模式”勾选框。勾选后,再运行SQL时,多语句的SQL会作为整体进行编译和提交,可用于存储过程定义等需要同时执行多条SQL的场景。
- 未选中“脚本模式”时,系统会按照封号切割SQL语句执行,针对存储过程中存在封号的场景,运行会失败。
功能详细使用步骤:
- a.功能入口:
- a.功能入口:
3.自助分析下载支持项目组级角色审批
功能介绍:
- 自助分析下载结果支持设置项目级审批人员,当前版本新增支持在项目组级别配置审批角色。
- 当自助分析的结果下载时,系统会获取项目组和项目级配置的审批策略,按照策略优先级进行策略匹配,然后再获取对应审批人员。优先级:安全等级的策略(S4>S3>S2>S1)>下载行数超过上限的策略>所有数据的策略。
- 举例:项目级仅设置了“安全等级为S3的策略”的审批人,项目组级仅设置了“安全等级为S4的策略”的审批人”,则自助分析下载数据中包含S4等级的数据时,命中“安全等级为S4的审批”,审批人为项目组级人员。
功能详细使用步骤:
- a.功能入口:
项目组负责人或管理员,可通过页面右上角“项目中心(新)”-左下角“项目组配置”-配置管理-自助分析下载强制项目组人员审批控制,进入到项目组粒度审批配置页面。
- a.功能入口:
版本:v7.3.0
新增功能1.离线开发任务的开发模式提交上线支持提交全部、仅提交任务包、仅提交调度、仅提交报警4种
- 功能介绍:
- 提交上线此次新增了针对任务的任务包、调度、报警,单独提交上线的功能。
- 针对开发模式下,任务包、调度、报警的相关修改,对应的提交按钮上会显示小红点。比如仅修改了报警,则“提交全部”、“提交部分”和“仅提交报警”都会有小红点。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
2.离线开发任务的开发模式调度设置和报警设置时同时支持提交上线
- 功能介绍:
- 调度设置和报警设置时,可以选择保存,或保存并仅提交调度,或保存并提交全部。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
3.离线开发任务的提交上线检测页面支持7大类检测
- 功能介绍:
- 离线开发任务提交上线时,支持7大类检测,包括引用资源的有效性检测、强制开发模式测试检测、节点代码扫描检测、调度设置检测、报警设置检测、通用风险项检测和是否需要走工单审批检测。
- 提交上线检测结束后,会有提交上线、提交工单或不可提交3种结果。
- 检测结果中,包含通过、存在风险和未通过3种,如果未通过时,不可提交上线或提交工单;未通过和存在风险时,提交人需要关注对应的提示。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
4.离线开发的任务调度设置中新增Quartz Cron调度类型
- 功能介绍:
- 针对离线开发任务需要月末最后一天调度的场景,原本的常规设置和Crontab调度类型都无法满足,本次新增了Quartz Cron调度类型,支持更丰富的调度周期设置,比如支持月末最后一天调度。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
5.离线开发的SQL节点新增Impala执行引擎
- 功能介绍:
- 如果为NDH底座,且集群中包含Impala集群时,支持SQL节点的“其他设置”中,支持设置Impala执行引擎。
- 在离线开发设置中,SQL节点默认执行引擎中,增加了Impala选项。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
6.离线开发的SQL类型的节点增加快捷操作提醒
- 功能介绍:
- 节点中一些快捷操作,之前的版本中已经支持,此次增加了这些快捷操作的说明文案。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
7.自助分析下载的xls文件支持加水印
- 功能介绍:
- 自助分析的配置管理中,支持设置自助分析下载内容的水印设置。自助分析的文件下载后,即可加上下载人员和下载时间的水印信息。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
1.离线开发的修改历史、版本列表等内容优化
- 功能介绍:
- 前序版本支持了调度和报警前置,当前版本讲任务开发模式的修改记录和修改历史进行了合并,所有开发模式和线上模式的修改,均会记录到修改历史中。并且,在操作类型和操作内容上都做了内容展示优化。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
2.离线开发的GPSQL节点的血缘解析逻辑优化
- 功能介绍:
- GPSQL节点中,官方语法说明中with语句需要写在insert into之前,但是有客户将with写在insert into和select语句中间,并且执行成功,因此当前版本针对该种场景做了适配,支持该种写法的表血缘。
- 第二种场景为,使用符号“::”进行转换格式的场景,当前版本也做了语法适配。
版本:v7.2.4
新增功能1.离线开发任务python节点新增pyspark执行方式,可在线编写pyspark
- 功能介绍:
- 原先离线开发运行pyspark需要使用spark节点,在节点中上传jar包。调整代码的时,需要在本地开发、打包、任务中上传文件等操作,比较繁琐。此次在python节点中增加了直接编辑pyspark的方式。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
2.离线开发任务SQL节点内增加编辑器快捷键说明
- 功能介绍:
- 任务内SQL类节点支持诸多快捷键操作,此次增加了快捷键使用的说明
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
3.质量监控节点支持使用任务的参数组参数
- 功能介绍:
- 离线开发任务节点配置的质量监控,支持设置“参数透传”,支持将任务的参数组传递给质量监控节点。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
4.自助分析支持引擎功能权限控制
- 功能介绍:
- 自助分析可通过安全中心,控制项目角色或成员是否可在某个项目-集群下使用某个执行引擎
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
5.任务组任务支持“节点状态还原”
- 功能介绍:
- 离线开发任务调度设置和报警设置前置后,线上模式节点的调度开启开关不再支持,需要由开发模式对节点右键进行禁用。对于任务组任务(商业化外部客户不支持该类型),原本都在本地维护,且节点不调度的设置方式都是提交任务包后,在线上模式不设置调度开启。调度设置和报警设置前置后,为适配任务组现有的使用场景,增加了“节点状态还原”功能。
- 使用方式:任务组任务,对于已在线上调度的任务,上传任务包后,点击“节点状态还原”,可将线上模式不调度的节点状态更新到开发模式的节点中,再将任务提交即可实现将线上节点不调度状态和开发模式的保持一致。对于新任务,建议直接在编辑时设置上节点禁用的逻辑。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
1.任务修改历史中增加任务运维“修改调度生效时间”的修改记录
- 功能介绍:
- 任务修改历史中,原本未记录任务运维的“修改调度生效时间”的操作,本版本补充了该类型的操作记录
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
2.SQL编辑器支持表别名和字段别名提醒
- 功能介绍:
- 编辑器中,针对查询表或字段设置别名后,在外层语句中支持按照新的别名提示。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
3.多节点任务内节点支持直接删除
- 功能介绍:
- 多节点任务的画布中,如果需要删除某个节点,原先需要先删除节点下方的连线,再删除节点。本次优化为可可直接删除节点,同时会删除节点上下游的连线(如有)。
- 功能详细使用步骤:
- a.功能入口:
- a.功能入口:
4.任务开发模式的提交上线小红点逻辑优化
- 功能介绍:
- 任务增删节点或修改节点内容后保存、资源及配置中修改作业资源、修改资源组、修改参数组、修改数据源、修改调度设置、修改报警设置时,提交上线会出现小红点。
5.任务部分节点为空时支持保存,以及回滚时引用失效时依然支持回滚
- 功能介绍:
- 离线开发任务的数据识别,原本在拖入画布后,未选择数据识别任务时,不可保存,当前版本改为可以保存。
- 针对历史任务回滚时,如果引用的资源失效,当前版本也改为支持保存。具体资源类型包括:离线同步节点引用的离线同步任务、数据识别节点引用的数据识别任务、低代码节点存储的对应任务、数据源等。
6.项目中心下载项目keytab时增加安全中心审计日志
- 功能介绍:
- 用户在项目中心下载keytab时,会进入安全中心的操作审计中。
- 功能详情使用步骤:
- a.功能入口:
- a.功能入口:
版本:v7.2.3
1.项目中心-角色管理,角色支持重命名
- 功能介绍:
- 项目负责人、管理员,或获取项目中心“角色管理”页面权限的成员,可对非系统预制角色进行重命名操作
- 功能详细使用步骤:
- a.功能入口:项目中心-角色管理,具体非系统预制角色,右键
- a.功能入口:项目中心-角色管理,具体非系统预制角色,右键
2.项目中心-项目信息,支持对项目重新生成项目keytab
- 功能介绍:
- 该功能仅针对数据平台底座为NDH才支持,且默认不开启,可由运维人员按需开启
开启后,在项目中心-项目信息中,“kerberos keytab”配置项中,仅项目负责人可查看到“重新生成keytab”按钮,并触发重生生成keytab
重新生成keytab后,原keytab默认继续生效7天,且可查看具体的principal和失效时间
- 该功能仅针对数据平台底座为NDH才支持,且默认不开启,可由运维人员按需开启
- 功能详细使用步骤:
- a.功能入口:项目中心-项目信息,“kerberos keytab”配置项右侧
- a.功能入口:项目中心-项目信息,“kerberos keytab”配置项右侧
3.新增TiDB节点、OceanBase节点
- 功能介绍:
- 支持在离线开发中新增TiDB、OceanBase节点,对相应数据源进行SQL代码开发。
- 功能使用注意事项:
- TiDB、OceanBase节点为外部数据源节点,默认不在画布显示,使用时需要有运维人员开启。
1.达梦节点支持运行存储过程
版本:v7.2.2
新增功能1.【重点关注】离线开发线上模式的报警设置前置到开发模式
- 功能介绍:
- 开发模式下支持报警设置,提交上线后可将报警设置提交到线上。同时,线上模式不再支持“编辑报警”,所有对线上模式“报警设置”的修改,都需要先在开发模式修改完成,再提交上线。
2.离线开发任务支持自动跨环境发布
- 功能介绍:
- 离线任务跨环境发布,指通过发布中心产品,实现任务在两个平台或同平台的不同“项目-集群”间进行发布;
- 在发布中心开启自动发布功能后,离线开发任务在新建时,支持选择开启或关闭自动发布,已有任务的开发模式下也会显示“任务自动发布”的开关;
- 任务的开关为开,离线开发任务在重命名、提交上线等场景下,系统会基于发布中心的配置,自动将线上模式的任务进行跨环境发布;
- 更具体的说明,请参加发布中心的用户手册。
3.平台底层为CDP环境时自助分析也可支持Kyuubi
4.自助分析的query支持定位
- 功能介绍:
- 自助分析Query中,支持快速将右侧画布中显示的任务快速在左侧列表中定位。
5.离线开发任务节点的输出参数支持map功能
- 功能介绍:
- 离线开发任务的部分节点配置输出参数,支持将节点中最后一条select语句的查询结果保存为二维数组供下游节点使用。本次新增了map功能,支持基于查询结果中第一列的key值匹配,并获取改行的数据。
- 举例:查询结果有id和name 2列,共有2条数据,第一条为1和张三,第二条为2和李四,则select '${outputs1('2')[0]}',可以定位到id=2的记录,并输出去掉第一列之后的第一列的数据,结果为“李四”。
6.用户申请加入项目时,支持平台粒度控制是否显示项目组角色选择项
- 功能介绍:
- 平台用户申请加入项目时,可需要选择要加入的项目、获得的项目和项目组角色。针对不需要用户选择项目组角色的场景,可以在部署平台控制开启隐藏。
7.支持平台管理员删除impala队列和K8S资源池
- 功能介绍:
- 平台管理员可在项目管理-项目的资源详情-计算资源下,删除Impala队列和K8S资源池(如有)。
1.自助分析下载的内容是数值时默认用数值格式
- 功能介绍:
- 自助分析下载的xls格式中,如果存在数值型数据,原先都是显示为文本格式。当前版本进行了优化,下载后数值可显示为数值格式。
2.离线开发任务的Python节点运行的日志中对python本身的报错进行标红展示
- 功能介绍:
- 对于python本身运行时,报错信息也标红展示。
3.离线开发任务的低代码节点支持支持其他设置
- 功能介绍:
- 低代码节点支持节点内设置其他设置,线上调度时可使用节点内的设置。支持设置运行超时时间、自动重试、输入参数等。
4.离线开发任务的版本比对支持选择节点详情比对和展示
- 功能介绍:
- 版本比对详情页,针对有差异的选择节点,支持展示详情并标注差异。
1.离线开发任务提交上线走工单审批,审批异常时,在离线开发支持撤回提交上线工单
2.项目中心-资源管理-资源监控的日存储使用情况调整为真实物理存储大小,及支持显示集群默认副本数
版本:v7.2.1
新增功能1.【重点关注】离线开发任务线上模式的“调度设置”前置到开发模式
功能介绍:
- 开发模式下支持设置任务的调度信息,提交上线后可将调度信息提交到线上。同时,线上模式不再支持编辑调度,所有对线上模式调度信息的修改,都需要先在开发模式修改完成,再提交上线。
功能使用注意事项
- 整体说明:本次调整,将原本在线上配置的调度信息前置到开发模式,这将在很大程度上影响用户的现有使用习惯,甚至影响团队的协作模式,因此需要所有离线开发的用户关注本项变更。
- 变更原因:原有模式下,离线开发新建的任务提交上线后,才可以配置调度信息,以及老任务修改调度配置是直接在线上操作。这种模式本身未做到开发和线上模式的版本独立。另外,不少团队会配置提交上线、编辑调度、取消调度需要工单审批,对于既需要修改任务代码,又需要修改调度依赖等的场景,需要走2次工单审批,中间也很容易工单没有同时审批,导致任务代码和调度配置不统一的问题。同时,对于任务回滚,也无法做到任务代码和调度配置统一回滚。
- 变更的影响:
- 老任务:对于老任务,如果任务是未调度,则开发模式的调度设置中,”调度开启“设置为“未开启”;如果是已调度,系统会自动将线上模式的调度信息复制到开发模式。由于开发模式和线上模式的节点可能会有差异,线上模式的调度信息不一定完全适用开发模式,因此可能会出现部分配置是非法内容的情况。在老任务在提交上线时,系统会对异常配置进行检测和提醒,请操作者关注提示的信息。
- 新任务:新任务创建后,在提交上线前,需要先进行调度设置,再提交上线。
- 开发模式的调度设置:开发模式下,支持和原本线上一样的配置,并且引入了“调度开启”开关,“调度开启”为关,则和原本提交上线且线上不设置调度的状态相同。“调度开启”为开,则可以设置调度,在开发模式可以设置调度,且配置依赖时仅能依赖开发模式的任务中的节点,包括智能推荐依赖也是推荐开发模式的节点。
- 开发模式节点操作:节点右键,支持”查看被依赖详情“、支持“替换依赖节点”,这些都是对开发模式下的任务进行操作。节点删除或禁用时,有开发模式的下游依赖时会进行提醒,用户可以强制进行删除,且删除时会同步删除下游依赖和当前节点调度设置中的上游依赖配置。
- 提交上线:任务提交上线时,会增加“是否调度设置异常“的检测,包括调度失效时间约束、下游依赖、上游依赖、下游调度生效时间影响、队列为空、调度日历不存在、调度周期变更等的检测提醒。
- 依赖授权:原本仅提交上线的任务才可以进行依赖授权,现在是否上线都可进行依赖授权。
- 线上模式的调度:线上模式不再支持配置调度,仅能通过开发模式提交上线。
- 提交上线审批设置:原本在“离线开发配置”-“基础配置”-“强制走工单审批设置”中,可以配置“编辑调度、取消调度”可以走工单审批,此次将去掉改配置,强制走工单配置仅用于控制“提交上线”的审批。
- 关于线上模式节点开启调度:当前版本线上节点不再支持控制节点是否开启调度,如需要节点线上模式不再调度,需要在开发模式下对节点右键,禁用节点,并提交上线。
以上内容对您是否有帮助?