1.10

Key 默认值 类型 描述
table.exec.state.ttl 0 ms Duration 指定状态的最长空闲时间,该时间指定的是空闲状态至少保留时长 t,最长保留时长为 t+5min。即 t 时间以内,状态一定保留,超过 t+5min,状态一定删除

1.12

官方文档

Key 默认值 类型 描述
table.exec.state.ttl

Streaming
0 ms Duration 指定状态的最长空闲时间,该时间指定的是空闲状态(i.e. state 不被更新)至少保留时长, 超过 ttl 后,状态会在某个空闲的时间清理掉. 默认不被清理.
table.optimizer.lookup.shuffle.pruning

Streaming
false Boolean 默认不开启对lookupJoin的优化。

全量数据缓存时需要LookupFunction实现SupportLookupShufflePruning(由connector开发实现)

使用LRU缓存的可不用实现,此时如果配置true,则会根据流表join key进行默认shuffle

当配置source并行度时,可通过添加shuffle使下游并行度为任务并行度

Mini-batch

Key Default Type Description
table.exec.mini-batch.allow-latency

0 ms Duration MiniBatch 缓存输入数据的最大时间. MiniBatch 是一种缓存输入数据的优化方式,可减少状态的访问. MiniBatch 由该参数定义的允许最大时间间隔或达到缓存最大数据量触发. NOTE: 如果 table.exec.mini-batch.enabled 设为 true, 该参数的值必须大于 0.
table.exec.mini-batch.enabled

false Boolean 是否开启 MiniBatch 优化. MiniBatch 是一种缓存输入数据的优化方式,可减少状态的访问. 默认关闭, true 开启. NOTE: 如果 mini-batch 开启, ‘table.exec.mini-batch.allow-latency’、’table.exec.mini-batch.size’ 参数必须设置.
table.exec.mini-batch.size

-1 Long MiniBatch 缓存的最大数据量. MiniBatch 由允许最大时间间隔或达到缓存最大数据量触发. NOTE: MiniBatch 目前只对非窗口聚合计算生效. 如果 table.exec.mini-batch.enabled 为 true, 该参数的值必须大于 0.

Operater Chain

高级参数

pipeline.operator-chaining false

配置任务JobGraph中各个算子不chain在一起。 场景:

  1. 方便定位任务是否有反压、倾斜
  2. 方便在Flink-Dashboard页面定位任务是否有处理数据