当前位置:   article > 正文

大数据Flink(四十四):​​​​​​扩展阅读 End-to-End Exactly-Once_数据查询扩展阅读

数据查询扩展阅读

文章目录

扩展阅读 End-to-End Exactly-Once

流处理的数据处理语义

At-most-once-最多一次

At-least-once-至少一次

 Exactly-once-精确一次

End-to-End Exactly-Once-端到端的精确一次

注意:精确一次? 有效一次!

补充:流计算系统如何支持一致性语义

End-to-End Exactly-Once的实现

Source

Transformation

​​​​​​​Sink

​​​​​​​Flink+Kafka的End-to-End Exactly-Once

​​​​​​​版本说明

​​​​​​​两阶段提交-API

​​​​​​​两阶段提交-简单流程

​​​​​​​两阶段提交-详细流程

代码示例

Flink+Kafka实现End-to-End Exactly-Once

​​​​​​​Flink+MySQL实现End-to-End Exactly-Once

深度总结

Exactly-Once

End-to-End Exactly-Once

Flink如何支持End-to-End Exactly-Once的?

两阶段事务提交协议


扩展阅读 End-to-End Exactly-Once

Flink 在1.4.0 版本引入『exactly-once』并号称支持『End-to-End Exactly-Once』“端到端的精确一次”语义。

流处理数据处理语义

对于批处理,fault-tolerant(容错性)很容易做,失败只需要replay,就可以完美做到容错。

对于流处理,数据流本身是动态,没有所谓的开始或结束,虽然可以replay buffer的部分数据,但fault-tolerant做起来会复杂的多

流处理(有时称为事件处理)可以简单地描述为是对无界数据或事件的连续处理。流或事件处理应用程序可以或多或少地被描述为有向图,并且通常被描述为有向无环图(DAG)。在这样的图中,每个边表示数据或事件流,每个顶点表示运算符

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/运维做开发/article/detail/759332
推荐阅读
相关标签
  

闽ICP备14008679号