Kudu
更新时间: 2024-08-16 01:55:50
阅读 33
离线同步任务支持Kudu数据源,支持该数据源的抽取(Reader)和导入(Writer),当前支持的版本为:Kudu 1.4.0-cdh5.12.2。
使用前提
在使用之前需要在项目中心(新)完成Kudu数据源的登记并测试通过。
数据源登记过程中,需要填写如下信息:
- 数据源名称:Kudu数据源的名称
- 归属项目:由于元数据中心是项目组级别,因此此处支持选择项目组下的项目,默认为当前项目名称
- 数据源标识:仅允许包含英文小写、数字、下划线,只允许英文小写开头,最大长度为64个字符。平台内唯一,保存数据源后数据标识不可修改
- 负责人:默认为当前创建人员
- 协助管理员:同负责人,有该数据源的管理权限,包括编辑、设置“源系统账号映射”。可在安全中心为自己或其他人设置该数据源的使用权限
- master:填写master,格式为ip:port,通过","相连
- 自定义属性:支持添加数据源的其它配置
唯一性校验规则:基于master进行校验。 |
数据源配置完成后,需点击测试连接按钮进行测试,测试通过后才可使用。
除了数据源需要准备之外,进行离线同步任务创建和数据源的使用都需要在安全中心-功能权限中添加相应的权限(可参考数据传输权限、元数据中心权限)。
Kudu作为数据来源
以Kudu to Hive为例,在数据来源端选择Kudu数据源类型及数据源名称,选择需要进行读取的表。过滤条件支持填写where过滤语句(不含where关键字),通常用作增量同步,支持系统参数和参数组参数。特殊字符替换根据实际情况进行填写。
Kudu作为数据去向
以Hive to Kudu为例,当Kudu作为数据去向时,需要填写数据源类型、已登记的数据源及表。Kudu支持INSERT INTO、INSERT OVERWRITE写入规则:
- INSERT INTO:插入数据。
- INSERT OVERWRITE:先删除表中的记录再插入数据。
文档反馈
以上内容对您是否有帮助?