如何将Docker容器日志转发到ELK?

如何将Docker容器日志转发到ELK?

我想知道将我的 docker 容器日志转发到 ELK 服务器的最简单方法是什么,到目前为止,我在互联网上搜索后尝试的解决方案根本不起作用。

基本上我有一个使用docker-compose运行的docker镜像,这个容器不会在本地记录任何内容(它由不同的服务组成,但没有一个是logstash或其他什么),但我看到通过docker logs -tf imageName或进行记录docker-compose logs。由于我使用compose启动容器,因此无法使用(或者至少我不知道如何使用)--logs-driverdocker选项。

因此,我想知道是否有人可以告诉我一些关于如何将日志转发到 ELK 容器的信息。

提前致谢,

问候

解决方案

感谢 madeddie,我可以通过以下方式解决我的问题,并提到我使用了 madeddie 在他的帖子中建议的基本 ELK-stack-in-containers。

首先,我更新docker-compose.yml容器的文件以添加日志记录引用的条目,正如 madeddie 告诉我的那样,我为每个服务添加一个条目,我的 docker-compose 代码片段如下所示

   version: '2'
    services:
      mosquitto:
        image: ansi/mosquitto
        ports:
          - "1883:1883" # Public access to MQTT
          - "12202:12202"  #mapping logs
        logging: 
           driver: gelf
           options: 
             gelf-address: udp://localhost:12202
    redis:
     image: redis
     command: redis-server --appendonly yes
     ports:
       - "6379:6379" # No public access to Redis
       - "12203:12203" #mapping logs
     volumes:
       - /home/dockeruser/redis-data:/data
     logging: 
       driver: gelf
       options: 
         gelf-address: udp://localhost:12203 

其次,为了能够转发日志,我必须为每个服务使用不同的端口号。

最后,我更新了我的 elk 容器docker-compose.yml文件,将我发送日志的每个 upd 端口映射到 logstash 监听的端口

logstash:
  build: logstash/
  command: logstash -f /etc/logstash/conf.d/logstash.conf
  volumes:
    - ./logstash/config:/etc/logstash/conf.d
  ports:
    - "5000:5000"
    - "12202:12201/udp" #mapping mosquitto logs
    - "12203:12201/udp" #mapping redis logs

此配置和添加的条目gelf {}使其logstash.conf工作,正确设置docker服务的IP地址也很重要。

问候!

答案1

Docker compose 有日志关键字: 来源

logging: 
  driver: syslog
  options: 
    syslog-address: "tcp://192.168.0.42:123"

因此,如果您知道从那里去哪里,那就去吧。

如果没有的话,我建议你看一下gelfdocker 的日志驱动程序logstash gelf 输入插件

例如,如果你使用基本的 ELK-stack-in-containers 设置,您将更新 docker-compose 文件并将端口添加- "12201:12201/udp"到 logstash。

编辑logstash.conf输入部分以:

input {
    tcp {
        port => 5000
    }
    gelf {
    }

}

然后配置您的容器以使用日志驱动程序gelf(而不是 syslog)和选项gelf-address=udp://ip_of_logstash:12201(而不是 syslog-address)。

您唯一需要注意的是 Docker 如何找到 Logstash 容器的 IP 地址或主机名。您可以通过 docker-compose 命名、Docker 链接或手动方式来解决这个问题。

Docker 和 ELK 功能强大、灵活,但也因此庞大而复杂。准备投入大量时间阅读和试验。

在探索这一切时,不要害怕提出你遇到的新问题(最好是非常具体的)。

相关内容