离线同步任务支持RocketMQ数据源,支持该数据源的导入(Writer),当前支持的版本为:4.2.0

使用前提


在使用之前需要在项目中心(新)完成RocketMQ数据源的登记。
数据源登记过程中,需要填写如下信息:

  • 数据源名称:RocketMQ数据源的名称
  • 数据源标识:仅允许包含英文小写、数字、下划线,只允许英文小写开头,最大长度为64个字符。平台内唯一,保存数据源后数据标识不可修改
  • 归属项目:由于元数据中心是项目组级别,因此此处支持选择项目组下的项目,默认为当前项目名称
  • 负责人:默认为当前创建人员
  • 协助管理员:同负责人,有该数据源的管理权限,包括编辑、设置“源系统账号映射”。可在安全中心为自己或其他人设置该数据源的使用权限
  • nameserverAddr:输入nameserverAddr,格式为ip:port,多个nameserverAddr通过","相连
  • 自定义属性:支持添加数据源的其它配置
唯一性校验规则:基于nameserverAddr进行校验。

除了数据源需要准备之外,进行离线同步任务创建和数据源的使用都需要在安全中心-功能权限中添加相应的权限(可参考数据传输权限元数据中心权限)。

RocketMQ作为数据去向


RocketMQ作为数据去向需要配置如下内容:
RocketMQ - 图1

  • 数据源:选择RocketMQ和已经登记的RocketMQ数据源
  • Topic:填写topic
  • 生产者配置:默认配置参数如下,支持手动添加
    • suspendCurrentQueueTimeMillis:1000
    • pullBatchSize:32
    • maxReconsumeTimes:3
    • consumeMessageBatchMaxSize:32
    • pullThresholdForQueue:1000
    • consumeTimeout:15
    • pullThresholdSizeForQueue:100