filebeat工作原理

心已赠人 2022-05-15 14:43 239阅读 0赞

**Filebeat工作原理**

Filebeat是本地文件的日志数据采集器。 作为服务器上的代理安装，Filebeat监视日志目录或特定日志文件，tail file，并将它们转发给Elasticsearch或Logstash进行索引、kafka 等。

### 工作原理： ###

Filebeat由两个主要组件组成：prospector 和harvester。这些组件一起工作来读取文件（tail file）并将事件数据发送到您指定的输出

启动Filebeat时，它会启动一个或多个查找器，查看您为日志文件指定的本地路径。 对于prospector 所在的每个日志文件，prospector 启动harvester。 每个harvester都会为新内容读取单个日志文件，并将新日志数据发送到libbeat，后者将聚合事件并将聚合数据发送到您为Filebeat配置的输出。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NoZW5nbGluaHVzdA_size_16_color_FFFFFF_t_70][]

pector都在自己的Go协程中运行。

以下示例将Filebeat配置为从与指定的匹配的所有日志文件中收集行：

filebeat.prospectors:
    - type: log
      paths:
        - /var/log/*.log
        - /var/path2/*.log

Filebeat目前支持两种prospector类型：log和stdin。  
每个prospector类型可以定义多次。  
日志prospector检查每个文件以查看harvester是否需要启动，是否已经运行，  
或者该文件是否可以被忽略（请参阅ignore\_older）。  
只有在harvester关闭后文件的大小发生了变化，才会读取到新行。

注：Filebeat prospector只能读取本地文件， 没有功能可以连接到远程主机来读取存储的文件或日志。

## Filebeat如何保持文件的状态？ ##

Filebeat 保存每个文件的状态并经常将状态刷新到磁盘上的注册文件中。  
该状态用于记住harvester正在读取的最后偏移量，并确保发送所有日志行。  
如果输出（例如Elasticsearch或Logstash）无法访问，Filebeat会跟踪最后发送的行，并在输出再次可用时继续读取文件。  
在Filebeat运行时，每个prospector内存中也会保存的文件状态信息，  
当重新启动Filebeat时，将使用注册文件的数据来重建文件状态，Filebeat将每个harvester在从保存的最后偏移量继续读取。

每个prospector为它找到的每个文件保留一个状态。  
由于文件可以被重命名或移动，因此文件名和路径不足以识别文件。  
对于每个文件，Filebeat存储唯一标识符以检测文件是否先前已采集过。

如果您的使用案例涉及每天创建大量新文件，您可能会发现注册文件增长过大。请参阅注册表文件太大？编辑有关您可以设置以解决此问题的配置选项的详细信息。

## Filebeat如何确保至少一次交付 ##

Filebeat保证事件至少会被传送到配置的输出一次，并且不会丢失数据。 Filebeat能够实现此行为，因为它将每个事件的传递状态存储在注册文件中。

在输出阻塞或未确认所有事件的情况下，Filebeat将继续尝试发送事件，直到接收端确认已收到。

如果Filebeat在发送事件的过程中关闭，它不会等待输出确认所有收到事件。  
发送到输出但在Filebeat关闭前未确认的任何事件在重新启动Filebeat时会再次发送。  
这可以确保每个事件至少发送一次，但最终会将重复事件发送到输出。  
也可以通过设置shutdown\_timeout选项来配置Filebeat以在关闭之前等待特定时间。

注意：  
Filebeat的至少一次交付保证包括日志轮换和删除旧文件的限制。如果将日志文件写入磁盘并且写入速度超过Filebeat可以处理的速度，或者在输出不可用时删除了文件，则可能会丢失数据。  
在Linux上，Filebeat也可能因inode重用而跳过行。有关inode重用问题的更多详细信息，请参阅filebeat常见问题解答。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NoZW5nbGluaHVzdA_size_16_color_FFFFFF_t_70]: /images/20220503/287043f5d69848849825bd18a6366661.png