由于EADDRNOTAVAIL，Fluent-bit无法在docker中将日志发送到Fluentd

Question

我试图设置EFK堆栈与流利位在docker容器。虽然我可以将日志从Fluent-bit推送到elasticsearch，但当我试图集成Fluentd时，我遇到了问题。这是确切的错误msg：

意外错误\u class=Errno:：EADDRNOTAVAIL error=“地址不可用-绑定（2）”端口24224的“流畅位”

我的docker中的服务组成文件

  elasticsearch:
    image: docker.elastic.co/elasticsearch/elasticsearch:${TAG}
    ports:
      - '9200:9200'
      - '9300:9300'
    volumes:
      - type: bind
        source: ./config/elasticsearch.yml
        target: /usr/share/elasticsearch/config/elasticsearch.yml
        read_only: true
      - type: volume
        source: elasticsearch
        target: /usr/share/elasticsearch/data
    networks:
      - efk_1
  fluentd:
    image: fluent/fluentd:${FLBV}
    ports:
      - '24224:24224'
    volumes:
      - type: bind
        source: ./config/fluent.conf
        target: /fluentd/etc/fluent.conf
        read_only: true
    networks:
      - efk_1
    depends_on:
      - elasticsearch
  fluent-bit:
    image: fluent/fluent-bit:${FBITV}
    ports:
      - '2020:2020'
    volumes:
      - type: bind
        source: ./config/fluent-bit.conf
        target: /fluent-bit/etc/fluent-bit.conf
        read_only: true
      - type: bind
        source: ./sample_logs
        target: /var/log
    networks:
      - efk_1
    depends_on:
      - fluentd

之前，我直接将日志从fluent bit推送到elasticsearch，就像这样，没有fluentd配置：

[SERVICE]
    Flush   2
    Log_Level   debug

[INPUT]
    Name    tail
    Path    /var/log/log.txt

[OUTPUT]
    Name    es
    Match   *
    Host    elasticsearch
    Port    9200

这成功地将日志推送到了elasticsearch，但现在我在两者之间添加了fluentd，因此FluentBit将把日志发送到fluentd，fluentd随后将推送到elasticsearch。

流畅位配置：

[SERVICE]
    Flush   2
    Log_Level   debug

[INPUT]
    Name    tail
    Path    /var/log/log.txt

[OUTPUT]
    Name    forward
    Match   *
    Host    fluentd

Fluentd conf：

<source>
    @type forward
    bind fluent-bit
</source>

<match **>
    @type stdout
</match>

这给了我错误，因为他们无法检测地址，即使他们是同一docker网络的一部分。

这些是我得到的错误：

fluent-bit_1|[2019/11/06 10:31:02][error][io]TCP连接失败：fluentd:24224（连接被拒绝）

和

fluentd_1 | 2019-11-06 10:31:02 0000[错误]：#0意外错误\u class=Errno:：EADDRNOTAVAIL error=“地址不可用-绑定（2）用于\“流畅位\”端口24224”

有人能帮我知道我哪里出错了吗？

Answer 1

您的fluentd配置需要在输入时绑定到0.0.0.0，并将输出发送到ES:

<source>
    @type forward
    port 24224
    bind 0.0.0.0
</source>

<match **>
    @type copy
    <store>
      @type               elasticsearch
      host                ${ELASTICSEARCH_URL}
      port                9200
    </store>
</match>

甚至可以更改您的Fluent位输出：

[OUTPUT]
    Name    forward
    Match   *
    Host    0.0.0.0
    Port    24224

如果您可以让它工作，那么可以调整设置以按名称和端口调用容器

Answer 2

我认为您的fluentd配置应该如下所示：

<source>
  type forward
  bind 0.0.0.0
  port 24224
</source>

<match fluent_bit>
  type stdout
</match>

就像在文档中一样

可能fluentd应该在绑定字段中有清晰的IP，而不是主机名。

请参阅问题和错误描述。

Answer 3

我创建了下一个配置：docker compose。亚马尔

version: "3.7"

services:
  fluentd:
    image: fluent/fluentd:v1.7.4-1.0
    ports:
      - '24224:24224'
    volumes:
      - type: bind
        source: ./config/fluent.conf
        target: /fluentd/etc/fluent.conf
        read_only: true
  fluent-bit:
    image: fluent/fluent-bit:0.14
    ports:
      - '2020:2020'
    volumes:
      - type: bind
        source: ./config/fluent-bit.conf
        target: /fluent-bit/etc/fluent-bit.conf
        read_only: true
      - type: bind
        source: /var/log/
        target: /var/log/
    depends_on:
      - fluentd

流利形态

<source>
  @type forward
  bind 0.0.0.0
  port 24224
</source>

<match test>
  @type stdout
</match>

fluent-bit.conf

[SERVICE]
    Flush   2
    Log_Level   debug

[INPUT]
    Name    tail
    Path    /var/log/syslog
    Tag     test

[OUTPUT]
    Name    forward
    Match   *
    Host    fluentd

在这些配置中，fluentd run和fluent bit能够发送系统日志