Flink 实现基于时间或数量触发的触发器 |
您所在的位置：网站首页 › flinksql窗口增量计算 › Flink 实现基于时间或数量触发的触发器 |
Flink 实现基于时间或数量触发的触发器
|
Flink 中窗口是很重要的一个功能，而窗口又经常配合触发器一起使用。 Flink 自带的触发器大概有： CountTrigger： 指定条数触发 ContinuousEventTimeTrigger：指定事件时间触发 ContinuousProcessingTimeTrigger：指定处理时间触发 ProcessingTimeTrigger： 默认触发器，窗口结束触发 EventTimeTrigger： 默认处理时间触发器，窗口结束触发 NeverTrigger：全局窗口触发器，不触发但是没有可以指定时间和条数一起作为触发条件的触发器，所有就自己实现了一个（参考：ProcessingTimeTrigger、CountTrigger） 看下调用触发器的窗口代码： val stream = env.addSource(kafkaSource) .map(s => { s }) .windowAll(TumblingProcessingTimeWindows.of(Time.seconds(60))) .trigger(CountAndTimeTrigger.of(10, Time.seconds(10))) .process(new ProcessAllWindowFunction[String, String, TimeWindow] { override def process(context: Context, elements: Iterable[String], out: Collector[String]): Unit = { var count = 0 elements.iterator.foreach(s => { count += 1 }) logger.info("this trigger have : {} item", count) } })很简单的一段代码：定义了一个60秒的窗口，触发器是自己实现的10条数据或者 10 秒触发一次的触发器，窗口函数就输出窗口数据的条数 下面看下自定义触发器 CountAndTimeTrigger 的核心代码如下： /** * CountAndTimeTrigger : 满足一定条数和时间触发 * 条数的触发使用计数器计数 * 时间的触发，使用 flink 的 timerServer，注册触发器触发 * * @param */ public class CountAndTimeTrigger extends Trigger { private Logger logger = LoggerFactory.getLogger(this.getClass()); // 触发的条数 private final long size; // 触发的时长 private final long interval; private static final long serialVersionUID = 1L; // 条数计数器 private final ReducingStateDescriptor countStateDesc = new ReducingStateDescriptor("count", new ReduceSum(), LongSerializer.INSTANCE); // 时间计数器，保存下一次触发的时间 private final ReducingStateDescriptor timeStateDesc = new ReducingStateDescriptor("fire-interval", new ReduceMin(), LongSerializer.INSTANCE); public CountAndTimeTrigger(long size, long interval) { this.size = size; this.interval = interval; } @Override public TriggerResult onElement(Object element, long timestamp, W window, TriggerContext ctx) throws Exception { // 注册窗口结束的触发器, 不需要会自动触发 // ctx.registerProcessingTimeTimer(window.maxTimestamp()); // count ReducingState count = ctx.getPartitionedState(countStateDesc); //interval ReducingState fireTimestamp = ctx.getPartitionedState(timeStateDesc); // 每条数据 counter + 1 count.add(1L); if (count.get() >= size) { logger.info("countTrigger triggered, count : {}", count.get()); // 满足条数的触发条件，先清 0 条数计数器 count.clear(); // 满足条数时也需要清除时间的触发器，如果不是创建结束的触发器 if (fireTimestamp.get() != window.maxTimestamp()) { // logger.info("delete trigger : {}, {}", sdf.format(fireTimestamp.get()), fireTimestamp.get()); ctx.deleteProcessingTimeTimer(fireTimestamp.get()); } fireTimestamp.clear(); // fire 触发计算 return TriggerResult.FIRE; } // 触发之后，下一条数据进来才设置时间计数器注册下一次触发的时间 timestamp = ctx.getCurrentProcessingTime(); if (fireTimestamp.get() == null) { // long start = timestamp - (timestamp % interval); long nextFireTimestamp = timestamp + interval; // logger.info("register trigger : {}, {}", sdf.format(nextFireTimestamp), nextFireTimestamp); ctx.registerProcessingTimeTimer(nextFireTimestamp); fireTimestamp.add(nextFireTimestamp); } return TriggerResult.CONTINUE; } @Override public TriggerResult onProcessingTime(long time, W window, TriggerContext ctx) throws Exception { // count ReducingState count = ctx.getPartitionedState(countStateDesc); //interval ReducingState fireTimestamp = ctx.getPartitionedState(timeStateDesc); // time trigger and window end if (time == window.maxTimestamp()) { logger.info("window close : {}", time); // 窗口结束，清0条数和时间的计数器 count.clear(); ctx.deleteProcessingTimeTimer(fireTimestamp.get()); fireTimestamp.clear(); return TriggerResult.FIRE_AND_PURGE; } else if (fireTimestamp.get() != null && fireTimestamp.get().equals(time)) { logger.info("timeTrigger trigger, time : {}", time); // 时间计数器触发，清0条数和时间计数器 count.clear(); fireTimestamp.clear(); return TriggerResult.FIRE; } return TriggerResult.CONTINUE; } }主要是在数据进来的时候，调用 onElement 做条数的计数器，满足条件就触发， onProcessingTime 是 flink 的 timeservice 调用的，作为定时触发的触发器 在时间和条数的定时器都有清除时间和条数计数器的计数，让计数器在下一条数据到的时候，重新开始计数 特别需要注意：窗口结束的时候，会自动触发调用 onProcessingTime ，一定要包含在触发器逻辑里面，不然不能获取窗口的完整数据 // time trigger and window end if (time == window.maxTimestamp()) { logger.info("window close : {}", time); // 窗口结束，清0条数和时间的计数器 count.clear(); ctx.deleteProcessingTimeTimer(fireTimestamp.get()); fireTimestamp.clear(); return TriggerResult.FIRE_AND_PURGE; }如在获取到窗口触发时间是窗口的结束时间（即窗口的结束时间减1，Java的时间精度是到毫秒，如 10秒的窗口时间是：（00000, 10000）0000-10000 ，实际上窗口结束时间就是 9999） 看执行的结果：
从 “14:42:00,002 INFO - window close : 1573281719999” 窗口结束 到 “14:42:10,015 INFO - countTrigger triggered, count : 10 ” ， “14:42:19,063 INFO - countTrigger triggered, count : 10” 条数触发 到 “14:42:36,499 INFO - timeTrigger trigger, time : 1573281756496” 时间触发 最后 窗口结束 “14:43:00,002 INFO - window close : 1573281779999” 搞定 完整代码：https://github.com/springMoon/flink-rookie/tree/master/src/main/scala/com/venn/stream/api/trigger 欢迎关注Flink菜鸟公众号，会不定期更新Flink（开发技术）相关的推文 |
【本文地址】
今日新闻 |
推荐新闻 |