Flink从入门到放弃(入门篇1)-Flink是什么

朴灿烈づ我的快乐病毒、 2022-02-26 13:14 185阅读 0赞

### 戳更多文章： ###

[1-Flink入门][1-Flink]

[2-本地环境搭建&构建第一个Flink应用][1-Flink]

[3-DataSet API][]

[4-DataSteam API][3-DataSet API]

[5-集群部署][5-]

[6-分布式缓存][6-]

[7-重启策略][7-]

[8-Flink中的窗口][8-Flink]

[9-Flink中的Time][9-Flink_Time]

[Flink时间戳和水印][Flink]

[Broadcast广播变量][Broadcast]

[FlinkTable&SQL][FlinkTable_SQL]

[Flink实战项目实时热销排行][Flink 1]

[Flink写入RedisSink][Flink_RedisSink]

[17-Flink消费Kafka写入Mysql][17-Flink_Kafka_Mysql]

> 本文是例行介绍，熟悉的直接跳过 - 鲁迅

> 鲁迅: ...

# 大纲 #

**入门篇：**

![Image 1][]

image

**放弃篇：**

![Image 1][]

image

图片显示不了，戳这里：

> [https://github.com/wangzhiwubigdata/God-Of-BigData/blob/master/Flink][https_github.com_wangzhiwubigdata_God-Of-BigData_blob_master_Flink]

## 插个广告 ##

*  全网唯一一个从0开始帮助Java开发者转做大数据领域的公众号~
 *  公众号**大数据技术与架构**或者搜索**import\_bigdata**关注，大数据学习路线最新更新，已经有很多小伙伴加入了~

![Image 1][]

image

## Flink是什么 ##

## 一句话概括 ##

Apache Flink是一个面向分布式数据流处理和批量数据处理的开源计算平台，提供支持流处理和批处理两种类型应用的功能。

## 前身 ##

Apache Flink 的前身是柏林理工大学一个研究性项目， 在 2014 被 Apache 孵化器所接受，然后迅速地成为了Apache Software Foundation的顶级项目之一。

## 特点 ##

现有的开源计算方案，会把流处理和批处理作为两种不同的应用类型：流处理一般需要支持低延迟、Exactly-once保证，而批处理需要支持高吞吐、高效处理。  
Flink是完全支持流处理，也就是说作为流处理看待时输入数据流是无界的；批处理被作为一种特殊的流处理，只是它的输入数据流被定义为有界的。

## Flink组件栈 ##

![Image 1][]

image

)

### Deployment层 ###

主要涉及了Flink的部署模式，Flink支持多种部署模式：本地、集群（Standalone/YARN）、云（GCE/EC2）

![Image 1][]

image

### Runtime层 ###

Runtime层提供了支持Flink计算的全部核心实现，比如：支持分布式Stream处理、JobGraph到ExecutionGraph的映射、调度等等，为上层API层提供基础服务

### API层 ###

API层主要实现了面向无界Stream的流处理和面向Batch的批处理API，其中面向流处理对应DataStream API，面向批处理对应DataSet API

### Libaries层 ###

*  在API层之上构建的满足特定应用的实现计算框架，也分别对应于面向流处理和面向批处理两类
 *  面向流处理支持：CEP（复杂事件处理）、基于SQL-like的操作（基于Table的关系操作）
 *  面向批处理支持：FlinkML（机器学习库）、Gelly（图处理）

## Flink的优势 ##

*  支持高吞吐、低延迟、高性能的流处理
 *  支持高度灵活的窗口（Window）操作
 *  支持有状态计算的Exactly-once语义
 *  提供DataStream API和DataSet API

![Image 1][]

image

![Image 1][]

image

## Flink基本编程模型 ##

>  *  Flink程序的基础构建模块是流(streams) 与 转换(transformations)
>  *  每一个数据流起始于一个或多个 source，并终止于一个或多个 sink

下面是一个由Flink程序映射为Streaming Dataflow的示意图:

![Image 1][]

image

并行数据流示意图:

![Image 1][]

image

## Flink基本架构 ##

>  *  Flink是基于Master-Slave风格的架构
>  *  Flink集群启动时，会启动一个JobManager进程、至少一个TaskManager进程

![Image 1][]

image

### JobManager ###

*  Flink系统的协调者，它负责接收Flink Job，调度组成Job的多个Task的执行
 *  收集Job的状态信息，并管理Flink集群中从节点TaskManager

### TaskManager ###

*  实际负责执行计算的Worker，在其上执行Flink Job的一组Task
 *  TaskManager负责管理其所在节点上的资源信息，如内存、磁盘、网络，在启动的时候将资源的状态向JobManager汇报

### Client ###

*  用户提交一个Flink程序时，会首先创建一个Client，该Client首先会对用户提交的Flink程序进行预处理，并提交到Flink集群
 *  Client会将用户提交的Flink程序组装一个JobGraph， 并且是以JobGraph的形式提交的

## 最后 ##

本文是例行介绍，熟悉的直接跳过。

作者：大数据技术与架构  
链接：https://www.jianshu.com/p/26bd686b9517

[1-Flink]: https://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=2247484003&idx=1&sn=bd25e1bf3fbb97fb5e39622aea121e33&chksm=fd3d44f6ca4acde0867a9d6eed422c8b07027e20c017fc48fee3f2104a4501afa2f7631d6c44&token=1889057954&lang=zh_CN#rd
[3-DataSet API]: https://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=2247484012&idx=1&sn=b38ad247d9f49ee06701c166fd2c4f56&chksm=fd3d44f9ca4acdef590cbaefce69bf915d316fc0f2451b1bfbf16be4f4cd0a9f19942ef99802&token=1889057954&lang=zh_CN#rd
[5-]: https://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=2247484026&idx=1&sn=5a68197b6461eab1af26c07f98ebd38f&chksm=fd3d44efca4acdf9f08f22ea5bf90ecf69e85c1fe8c35e9162e3252ebab82318e9c86ef38204&token=1889057954&lang=zh_CN#rd
[6-]: https://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=2247484031&idx=2&sn=55243ee8d42945a9258da24c62ed8a46&chksm=fd3d44eaca4acdfc83088f9e67b1057ce812246cc533a89483042d62f25c24ae6fa5284c0ce2&token=1889057954&lang=zh_CN#rd
[7-]: https://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=2247484031&idx=1&sn=101879628d9cc2f2bfa0580e691f70bf&chksm=fd3d44eaca4acdfc1e0da9181398af1760517680de7019723a57f74d061015adf957b3af2bf6&token=1889057954&lang=zh_CN#rd
[8-Flink]: http://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=100000390&idx=1&sn=8da5e4d2bb982a3e963d40d96d90fe6f&chksm=7d3d44134a4acd05e85cf6bf2baf9e4da6ae2df9552b97c6f99bbb5513a1592f2a2055d7ad22#rd
[9-Flink_Time]: http://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=100000390&idx=2&sn=9c306adc21019cb71c5caa2cfa9ba7d2&chksm=7d3d44134a4acd058dbd832e10741ada337b6319d7ed2689cb9fa037085eac4dc8c41d38368c#rd
[Flink]: http://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=100000450&idx=1&sn=1c73bcf36e5f007a1b56e929d726c802&chksm=7d3d44574a4acd41e9e57c3ce96f8756640c7a9ea24f9139ba404d774ebec227a80bfdb8e2bd#rd
[Broadcast]: http://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=100000459&idx=1&sn=7206402218743471453be19e86121625&chksm=7d3d445e4a4acd481a414f2afd7d555947a7de243972dd26eb7119f1e9fe5230fae2ab0e9908#rd
[FlinkTable_SQL]: http://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=100000509&idx=1&sn=686f7654f60545893f7090bbf43bc510&chksm=7d3d44684a4acd7e2ab76549d95ceea15e1180b99dc8c255232268dae14665fb769d2ee3ea38#rd
[Flink 1]: http://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=100000513&idx=1&sn=5c3813a8a47eef1d888bdf246b3df4d2&chksm=7d3d45944a4acc82c72802ebeb4ba95ee8fcab758dde897c4a336df1b73ec754a213768b555b#rd
[Flink_RedisSink]: http://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=100000530&idx=1&sn=b0e3c0ccf733fe6cf5735d4ada78cd81&chksm=7d3d45874a4acc914dea1cb6531780850cd2dd337ae7104e65dc1dac41e7fddf0e246b916cc4#rd
[17-Flink_Kafka_Mysql]: http://mp.weixin.qq.com/s?__biz=MzU3MzgwNTU2Mg==&mid=100000535&idx=1&sn=983f3de67e6ec9aa66532e10cfdc4927&chksm=7d3d45824a4acc94c3ccaca4ffdb2afe14c8b900098c0a8a84d325a1a3e25b8f55028b6de406#rd
[Image 1]: 
[https_github.com_wangzhiwubigdata_God-Of-BigData_blob_master_Flink]: https://github.com/wangzhiwubigdata/God-Of-BigData/blob/master/Flink