Vastbase G100
更新时间: 2024-03-01 01:52:51
阅读 143
离线同步任务支持Vastbase G100,支持该数据源的抽取(Reader)和导入(Writer),当前支持的版本为:2.2.10。
使用前提
在使用之前需要在项目中心(新)完成Vastbase G100数据源的登记并测试通过。
数据源登记过程中,需要填写如下信息:
- 数据源名称:Vastbase G100数据源的名称
- 数据源标识:仅允许包含英文小写、数字、下划线,只允许英文小写开头,最大长度为64个字符。平台内唯一,保存数据源后数据标识不可修改
- 归属项目:由于元数据中心是项目组级别,因此此处支持选择项目组下的项目,默认为当前项目名称
- 归属逻辑数据源:此处无需配置,只是用于后续绑定逻辑数据源后进行查看
- 负责人:默认为当前创建人员
- 管理员:同负责人,有该数据源的管理权限,包括编辑、设置“源系统账号映射”。可在安全中心为自己或其他人设置该数据源的使用权限
- 使用授权:数据源支持对项目组内所有项目或指定项目进行使用授权。未被授权的项目,将无法使用该数据源进行配置
- 版本:2.2.10
- 数据源连接:根据jdbc:mysql://ServerIP:Port/Database格式进行填写
- 用户名:填写访问数据源的用户名
- 密码:填写用户名所对应的密码
- 自定义属性:支持添加数据源的其它配置
数据源配置完成后,需点击测试连接按钮进行测试,测试通过后才可使用。
除了数据源需要准备之外,进行离线同步任务创建和数据源的使用都需要在安全中心中添加相应的权限(可参考权限说明文档、安全中心功能权限)。
Vastbase G100作为数据来源
以Vastbase G100 to Hive为例,在数据来源端选择MySQL数据源类型及数据源名称,选择需要进行读取的schema和表。
Vastbase G100 to Hive数据源支持库表选择。
- 库表选择:支持搜索或直接选择数据库表。支持跨库表配置,跨库表必须是相同数据源类型。
数据过滤支持条件、流水型及自定义。
- 条件型:按列设置过滤规则,可添加一或多组条件,条件默认为AND关系。
- 流水型:从选择字段的起始值开始读取数据,读取到最新记录位置,下次从上次的最新记录读取至当前的最新记录。流水型数据过滤方式生效满足以下条件:1. 选取的字段是单调递增的;2. 离线开发任务提交到线上调度执行。
- 自定义:填写where过滤语句(不含where关键字),通常用作增量同步,支持系统参数和参数组参数。
特殊字符替换、并发读取、流量控制根据实际情况进行填写。
Vastbase G100作为数据去向
以Vastbase G100为例,当Vastbase G100作为数据去向时,除了需要填写数据源类型、数据源等基础信息之外,还可以填写PreSql和PostSql。
- PreSql:导入数据前执行的SQL语句,例如清除旧数据;目前向导模式最多允许执行五条SQL语句,多条SQL语句使用分号“;”分隔。
- PostSql:导入数据后执行的SQL语句,例如加上某一个时间戳;目前向导模式最多允许执行五条SQL语句,多条SQL语句使用分号“;”分隔。
Vastbase G100支持INSERT INTO、MERGE INTO写入规则:
- INSERT INTO:插入数据。
- MERGE INTO:如果更新键冲突,更新原记录。
更新键选取多个字段联合作为更新键时,仅当字段拼接值冲突时,会更新原记录。
文档反馈
以上内容对您是否有帮助?