1. 概述

本产品提供了两种数据连接方式,直连和抽取。直连是指直接连接用户数据库进行数据的读取,而抽取则是将表数据抽取到本产品的MPP数据库中,提升查询效率。本文将对数据抽取功能进行详细介绍。

2. 数据抽取的类型

数据抽取分为全量抽取、增量抽取两种抽取方式。

2.1 全量抽取


每次抽取的时候将表数据全部抽取至MPP数据库,提供了全量覆盖收取和全量追加抽取两种抽取方式。

  • 全量覆盖抽取:每次抽取,对数据库的全部数据进行抽取,并覆盖MPP数据库已有的数据,如下图所示:
    chouqufangshi1.jpg

  • 全量追加抽取:每次抽取,对数据库的全部数据进行抽取,并追加在MPP数据库中,如下图所示:
    chouqufangshi2.jpg

2.2 增量抽取


每次只抽取相比于上次更新增加的数据,提供了增量抽取和增量抽取(滚动覆盖)两种抽取方式

  • 增量抽取:每次抽取,根据增量字段判断数据库中的数据是否为新增数据,对数据库的新增数据进行抽取,并追加在MPP数据库中,如下图所示:
    chouqufangshi3.jpg

  • 增量抽取(滚动覆盖):每次抽取,根据日期及滚动周期将数据库中的新增以及部分历史数据抽取到MPP数据库中,其中历史数据将会覆盖原数据。
    chouqufangshi4.jpg

关于增量抽取,需要注意的是:

  • 只支持针对日期型(Date)和数值型(Int)的字段作为增量抽取的依据字段;
  • 只支持对源表新增的数据做增量,如果源表中对数据有更新或删除操作,增量抽取的时候不会检测到这些变化;
  • 支持以字符串作为抽取依据,如自增ID。

3. 抽取设置入口

您在数据连接、数据准备、数据模型、项目中心中都可以对数据连接方式进行设置。

  • 在数据连接中,您可以在选择需要设置的数据连接后,选择[表信息],列表中会显示该连接内所有的数据表,然后可对需要抽取的表进行抽取设置。
    数据抽取 - 图5

  • 在数据准备中,您可以在输入节点切换数据连接的方式。
    数据准备抽取.png

  • 在数据模型中,您可以在模型信息中切换数据连接的方式。
    数据模型抽取

  • 在项目中心中,您还可以对所有的抽取任务进行统筹管理,详见数据任务管理。
    数据任务管理

当您进入抽取设置界面后,就可以设置抽取方式和执行计划了。
抽取设置