EasyData-V9.0-Update02
控制台
版本:v1.16.1.1
新增功能1.支持RabbitMQ数据源登记,支持3.7.28版本。
- 功能说明:
- 登记数据源时,支持选择RabbitMQ数据源类型登记,可选版本为3.7.28。
版本:v1.16.1
新增功能1.【项目组中心】集群管理-集群配置,支持Python环境管理
功能说明:
- 项目组中心-集群管理-集群配置,新增“Python”组件,支持展示系统环境及创建自定义环境。
- Python环境管理为项目组-集群粒度,系统环境默认已开通该集群的项目组下所有项目可用,自定义环境仅已开通该集群的项目组下的授权项目可用。
- 针对系统环境,支持启用/禁用;针对自定义环境,支持新建、编辑、启用/禁用、发布、查看引用详情、版本记录。
- Python环境仅支持在离线开发子产品的Python节点中使用。离线开发任务开发模式运行时,使用最新编辑的python环境;线上模式运行时,使用最新发布版本的python环境。如需线上模式生效,保存后请及时发布。
- 权限说明:
- 在安全中心,获取项目组级-控制台-项目组设置-集群管理-Python的访问及设置权限的用户,才能查看python环境管理的页面,并拥有python环境的新建、查看、查看版本记录、查看引用详情的权限。
针对自定义环境,仅python环境的负责人和管理员,有python环境的编辑、发布、启用/禁用、版本记录-回滚的权限;针对系统环境,仅项目组负责人和项目组管理员,有python环境的启用/禁用权限。
- 在安全中心,获取项目组级-控制台-项目组设置-集群管理-Python的访问及设置权限的用户,才能查看python环境管理的页面,并拥有python环境的新建、查看、查看版本记录、查看引用详情的权限。
针对自定义环境,仅python环境的负责人和管理员,有python环境的编辑、发布、启用/禁用、版本记录-回滚的权限;针对系统环境,仅项目组负责人和项目组管理员,有python环境的启用/禁用权限。
功能详细使用步骤:
- 功能入口:
数据传输
版本:v3.28.0
新增功能- 【离线】DataX任务引擎下,数据来源和去向支持FTP数据源类型;
- 功能介绍:
- 创建离线同步任务时,若任务引擎为DataX,数据来源和去向均支持FTP数据源类型;
- 【离线】DataX任务引擎下,数据来源和去向支持Kafka数据源类型;
- 功能介绍:
- 创建离线同步任务时,若任务引擎为DataX,数据来源和去向均支持Kafka数据源类型;
【离线】创建离线同步任务,向导和SQL模式下,数据来源和去向适配Doris新版本(2.1),且若去向为Doris时快速建表功能也适配支持Doris新版本(2.1);
【实时】创建实时同步任务,数据去向适配Doris新版本(2.1);
【离线】离线传输任务的脏数据管理功能适配spark3.3.1版本;
【离线】Spark任务引擎下,若来源为MongoDB,去向为Hive时支持快速建表操作;
【离线】线上任务支持存储目录的功能,按照开发环境任务最新一次提交时的目录作为线上任务的目录,且在发布中心对线上任务进行发布时,将按照线上任务的存储目录,发布至接收方对应的目录下,若目录不存在,将新建同名目录;
【实时】对于Oracle数据源增加开关配置,默认展示Oracle数据源,但仅默认展示其ogg的增量读取方式;
1.【离线】FTP作为数据来源时数据目录引用参数组功能优化,支持文件筛选"部分"时直接选择或表达式选择情况下均支持参数组功能;
2.【离线】Spark任务引擎下,FTP作为数据来源时,配置字段信息功能增加开关,默认为关,若开启之后,针对text、csv、excel文件格式,联动新增文件包含标题、标题所在行数以及字段信息内容,且增加提示,文件包含标题仅用于字段信息解析;
3.【实时】报警功能优化,新增延迟metric自动恢复的逻辑;
4.【离线】修复线上任务和开发环境任务重名的问题。
5.【离线】spark任务引擎下,若数据去向为kafka类型,生产者配置中默认去掉消费者的参数配置。
实时计算
版本:v4.11.0
新增功能1.【实时运维】支持批量设置告警
- 功能介绍:
- 实时运维任务列表新增支持批量设置告警规则,用户可以在任务提交上线后,批量设置报警规则,提高配置效率
2.【实时开发】Flink1.18支持Kerbores Kafka
3.【实时运维】支持手动触发创建SavePoint并查看SavePoint列表
1.【实时运维】failover告警规则新增“5分钟周期”选项
2.【实时开发】Flink1.18支持脏数据管理功能
1.针对任务死循环时告警无法发送的问题增加兜底策略 2.修复告警配置中自定义告警规则无法删除的问题
指标系统
版本:v2.8.16
新增功能- 支持超级项目组成员查看跨项目组的指标详情
功能介绍
- 超级项目组成员在数据资产地图搜索指标后,支持跳转到指标系统中查看指标详情信息
注意事项
- 仅超级项目组成员在地图可以搜索查看跨项目组的指标,普通项目组之间指标是隔离的
详细操作步骤
- 超级项目组成员在数据资产地图搜索指标,点击指标即可跳转查看指标详情
- 指标治理工单提示文案优化
功能介绍
- 指标治理工单提示文案优化
详细操作步骤
- 查看工单详情页即可
离线开发
版本:v7.14.3
新增功能1.【离线开发】支持设置节点代码模板
- 功能介绍:
- 针对以下节点类型:SQL、Python、DB2、达梦、Doris、GaussDB、GPSQL、Oceanbase、SQLServer、StarRocks、TiDB、VerticaSQL、Shell、Perl,支持由项目负责人/管理员在配置管理-项目集群配置-基础配置-节点默认设置中设置节点代码模板。
- 设置代码模板后,该项目-集群下新增节点时代码默认填充此模板,不影响历史节点。
- 代码模板支持变量 :${Author}、${CreateTime},分别表示节点的创建人的用户名和创建时间(变量值格式如:2025-01-01 00:00:00)。
功能详细使用步骤:
功能入口:
2.【离线开发】支持下载代码搜索结果
- 功能介绍:
- 支持将搜索到的结果下载为Excel文件。下载结果条数上限与可查看的结果条数上线保持一致,最多支持下载100条结果。
功能详细使用步骤:
功能入口:
3.【离线开发】对接控制台,支持使用控制台管理的Python环境
- 功能介绍:
- 在控制台当前项目组-集群下注册Python环境后,在离线开发任务开发模式支持选择授权给当前项目、可用性为已启用、使用范围包含该执行模式的Python环境。此外,离线开发任务提交上线时,提交上线检测中会判断节点/任务调度设置中选择的Python环境是否已存在(强规则)和Python环境的开发模式和线上模式是否一致(弱规则),其中已存在的判断条件包含:发布状态是否为已发布或修改待发布、可用性为已启用、授权项目包含当前项目、使用范围包含选择的执行模式。
- 离线开发任务开发模式运行时,使用最新编辑的python环境;线上模式运行时,使用最新发布版本的python环境。
- 离线开发任务通过发布中心发布时,如发布到开发模式,则检测接收方是否存在1)环境标识相同、2)状态为未发布或已发布或修改待发布,可用性为已启用 3)授权项目包含当前项目、4)使用范围包含选择的执行模式 的开发模式Python环境;如发布到线上模式,则检测接收方是否存在1)环境标识相同、2)状态为已发布或修改待发布、可用性为已启用 3)授权项目包含当前项目4)使用范围包含选择的执行模式 的线上模式Python环境。
1.【项目中心】注册库的库名称取消不能以"_dev"结尾的限制
- 功能介绍:
- 此前考虑到数据沙箱功能会为正式库注册"_dev"结尾的测试库,为避免正式库和测试库混淆,注册库时库名称不允许以"_dev"结尾。由于数据沙箱功能不再对外开放,所以针对未使用数据沙箱功能的客户环境,注册库的库名称取消不能以"_dev"结尾的限制。
任务运维中心
版本:v1.19.3
新增功能1.未调度任务补数据时支持选择调度日历
- 功能介绍:
- 针对未调度任务补数据时,支持选择调度日历。在非调度日自动不再会生成对应补数实例,相比原先用户需要手动添加多段补数据时间范围而言,显著提高补数效率;
2.任务/节点状态增加“置成功”标记
- 功能介绍:
- 原先任务置成功后,任务及节点状态会直接变更为“成功”,不方便用户后续回溯排查问题。因此在状态旁边增加对应“置成功”的标记,hover标记时显示置成功的操作时间,在针对上游失败导致下游延迟产出,运维操作上游置成功,后续回溯问题的场景,可以直观了解到是因为置成功的原因,提高排查效率。
- 功能详细使用步骤:
- 功能入口: 在周期实例列表、实例详情-节点列表、上游依赖详情等实例状态和节点列表页面均增加显示置成功标记
- 功能入口: 在周期实例列表、实例详情-节点列表、上游依赖详情等实例状态和节点列表页面均增加显示置成功标记
1.批量补数据时补数预览支持查看未能生成补数实例的任务列表
- 功能介绍:
- 在补数预览弹窗中,支持查看在所选补数时间范围内有计划实例,但由于依赖的上游补数据实例不在补数据执行时间范围内,而未能生成补数据实例的任务。方便用户及时查看补数实例是否符合预期,若需进行补数据,则建议用户检查并确认offset值以及同周期依赖设置。
- 功能详细使用步骤:
- 功能入口:
- 功能入口:
2.基线关联实例失败告警内容优化
- 功能介绍:
- 背景:基线关联实例失败告警的文本告警中(包括短信、飞书、popo等),针对实例影响多条基线的情况,原先仅提示用户需要xxx时间前确保任务运行完成,否则基线余量最少的基线将发生破线,导致存在其他值班组收到无关基线的告警内容。
- 此次更新后,逻辑调整为:对应值班组成员均会收到报警信息,报警内容中取值班组所关联的基线展示“确保此任务在xxx时间前运行成功,否则xxx基线将破线”。
- 另外,若同一个值班组有多条基线,均关联了同一个失败实例,则报警内容中取余量最少的基线展示“确保此任务在xxx时间前运行成功,否则xxx基线”将破线。
3.周期实例运维大盘和智能诊断页面访问权限接入项目中心-功能权限
安全中心
版本:v4.1.7
功能优化1.数据访问审计日志适配TDH环境;
2.未部署网易ranger环境的项目,也支持共享库给其他项目,支持被自助分析、离线开发、数据传输等子产品使用;
3.审计报警优化,通知对象增加操作人、操作人的一级主管;
4.针对starrocks数据源类型,我的权限部分展示优化;
数据资产地图
版本:v3.0.1
新增功能
1.批量编辑支持系统内置项和自定义项
功能介绍
- 之前批量编辑元数据时,仅支持批量编辑目录和数据源信息,本次优化后可以灵活设置需要批量编辑的编辑项例如安全等级、主题域、分层、技术负责人等信息,能大大提高批量治理元数据的效率。
详细操作步骤
- 进入元数据列表页并勾选需要编辑的元数据,点击“更多”操作中的“批量编辑”操作,弹框中选择编辑项及对应值,确定后即可批量生效
注意事项
- 批量编辑的数量过多时,为了避免不同用户重复提交,故在前一个批量编辑执行过程中,不支持再次提交,系统会提示用户已存在批量更新的任务及其进度,需要稍后再操作
2.元数据采集变更内容合并及通知
功能介绍
- 之前元数据采集任务仅有失败告警,一旦元数据发生变更用户无法及时感知到。本次元数据采集新增表结构变更的提醒通知,用户可以勾选失败告警、采集后表结构变更告警,触发规则后会通过指定方式通知给相关人员。同时在每一次的元数据采集实例中针对变更表也会展示具体变更的字段信息。
详情操作步骤
进入元数据采集模块,创建采集任务,在第三步“采集设置”中可以勾选“采集后表结构变更”的告警触发条件,采集任务创建完成后,后续将根据该配置生效
在元数据采集实例中,点击查看结果,也可查看变更表的变更字段信息
功能优化
1.查看表产出任务支持跳转到任务所在项目的开发页面
功能介绍
- 之前查看表的产出任务默认跳转到离线开发当前表所属的项目中,实际表的产出任务可能在另一个项目下,导致任务查看失败。本次优化后,在查看表产出任务时,如果任务所属项目不是当前的表项目,则会提示用户是否继续跳转到任务所在项目,确认后即可跳转并查看任务信息
数据质量中心
版本:3.14.2
新增功能1.跨表级模板规则支持与基准值计算表行数波动率
- 功能介绍:
- 新增系统规则模板,支持跨表级模板比对表行数波动率校验表行数与比对表表行数的波动率,是否在阈值内;同时,该类规则支持添加比对表的筛选条件,例如分区筛选和非分区筛选,因此该功能可用于比较同一张表不同分区的表行数波动率。
- 功能详细使用步骤:
- 功能入口:
- 功能入口:
2.新建模板规则时,支持选择与基准值差值为“绝对值”还是“原始差值”
- 功能介绍:
- 新建模板规则时,计算规则为“与基准值差值”时,期望范围里增加下拉框,可以由”绝对值“切换为”原始差值“。
- 功能详细使用步骤:
- 功能入口:
- 功能入口:
1.数据比对、形态探查支持Doris数据源
2.质量监控任务执行趋势支持按日期筛选
- 功能入口:
3.质量监控引用详情适配离线开发回收站功能
- 功能介绍:
- 如果质量监控任务引用的任务在回收站中,则在引用详情中提示任务已移入回收站。
流程协作与通知中心
版本:v2.6.4
新增功能1.审批工单支持抄送
功能说明:
- 对应的抄送人可以在“我的抄送”列表页查看所有抄送自己的工单。
- 在流程设计的审批节点中,可以选择是否启用抄送,启用后,对应节点审批完成时系统会发送通知给对应抄送人。目前抄送人支持由审批人在审批处理时指定,也支持在流程画布中直接指定。
以上内容对您是否有帮助?