离线同步任务支持Phoenix数据源,支持该数据源的抽取(Reader)导入(Writer),当前支持的版本为:Phoenix 4.13.1-HBase1.3.1

使用前提


在使用之前需要在项目中心(新)完成Phoenix数据源的登记并测试通过。
数据源登记过程中,需要填写如下信息:

  • 数据源名称:Phoenix数据源的名称
  • 数据源标识:仅允许包含英文小写、数字、下划线,只允许英文小写开头,最大长度为64个字符。平台内唯一,保存数据源后数据标识不可修改
  • 归属项目:由于元数据中心是项目组级别,因此此处支持选择项目组下的项目,默认为当前项目名称
  • 负责人:默认为当前创建人员
  • 协助管理员:同负责人,有该数据源的管理权限,包括编辑、设置“源系统账号映射”。可在安全中心为自己或其他人设置该数据源的使用权限
  • 数据源连接:根据jdbc:phoenix:ServerIP:Port 格式进行填写
  • 用户名:填写访问数据源的用户名
  • 密码:填写用户名所对应的密码
  • HBase命名空间映射:指Phoenix的schema与HBase命名空间的映射关系,开启映射则允许Phoenix创建自定义数据库
  • 自定义属性:支持添加数据源的其它配置

数据源配置完成后,需点击测试连接按钮进行测试,测试通过后才可使用。
Phoenix - 图1

除了数据源需要准备之外,进行离线同步任务创建和数据源的使用都需要在安全中心中添加相应的权限(可参考权限说明文档安全中心功能权限)。

Phoenix作为数据来源


Phoenix to Hive为例,在数据来源端选择Phoenix数据源类型及数据源名称,选择需要进行读取的schema和表。

过滤条件支持填写where过滤语句(不含where关键字),通常用作增量同步,支持系统参数和参数组参数。特殊字符替换流量控制根据实际情况进行填写。

Phoenix - 图2

Phoenix作为数据去向


Hive to Phoenix为例,当Phoenix作为数据去向时,除了需要填写数据源类型、数据源等基础信息之外,还可以填写PreSqlPostSql

  • PreSql:执行数据同步任务之前率先执行的SQL语句;目前向导模式仅允许执行一条SQL语句,例如清除旧数据。
  • PostSql:执行数据同步任务之后执行的SQL语句;目前向导模式仅允许执行一条SQL语句,例如加上某一个时间戳。

Phoenix支持Overwrite写入规则,同时支持配置流量控制

  • Overwrite:覆盖已有数据。

Phoenix - 图3