fluentd

在 Suse Enterprise Linux 11 上安装 fluentd / Kibana / Elastic Search
fluentd

在 Suse Enterprise Linux 11 上安装 fluentd / Kibana / Elastic Search

我已经成功安装了推荐的fluentd堆栈(fluentd、Kibana、Elastic Search)在 Centos 6 虚拟机上。但我们的生产环境都是 Suse Enterprise Linux 11。 我正在尝试弄清楚如何fluentd安装,但我遇到了依赖项和其他缺失部分的问题。我尝试使用以下任何一个这些快速入门说明libc.so并使其适应我的安装,但当我尝试安装或升级东西到需要的位置时,我却成功地用不兼容的版本破坏了我的安装。 我真正想要的是能够使用RPM安装程序,因为 Suse Enterprise Linux 包管理器是基于RPM打包的。我知...

Admin

在 Grafana Loki 中解析嵌套的 JSON 日志(使用 Fluentd 转发)
fluentd

在 Grafana Loki 中解析嵌套的 JSON 日志(使用 Fluentd 转发)

我的实验室有几个Docker容器如下: 姓名 Docker 映像 Fluentd 流利/fluentd:v1.16-1 Fluent-bit cr.fluentbit.io/fluent/fluent-bit 洛基 grafana/loki 格拉法纳 grafana/grafana-enterprise 球童 球童:建造者 我的目标是收集 Caddy 日志并在 Grafana 中将其可视化。 场景:Fluent-bit 跟踪日志并将其发送到 Fluentd。然后 Fluentd 将日志推送到 Loki。我的目标是使用 Fl...

Admin

Fluent-Bit - 如何提取文件名的一部分并将其附加到 Cloudwatch 日志组的 log_stream_name
fluentd

Fluent-Bit - 如何提取文件名的一部分并将其附加到 Cloudwatch 日志组的 log_stream_name

刚接触 Fluent-Bit 并寻求一些相关指导。 最新版本的 Fluent-Bit 已安装在 ec2 上,并成功运行。我正在将日志从 /var/log/nginx... 推送到 Cloudwatch 例如,我在 /var/log/nginx/client.test-access.log 中有日志 我想使用 Fluent-Bit 提取“client.test”并将其附加到 log_stream_name,以便它在 Cloudwatch 日志流中显示为 client.test 我一直在尝试使用 rewrite_tag [INPUT] Name tail...

Admin

无法将 Kubernetes 元数据作为标签添加到 FluentBit 中的 Loki 容器日志
fluentd

无法将 Kubernetes 元数据作为标签添加到 FluentBit 中的 Loki 容器日志

我正在尝试使用 FluentBit、Loki 和 Grafana 收集 Kubernetes 环境中的容器日志。 我想附加 Kubernetes Pod 名称作为标签,这样当我在 Grafana 中查询日志时,就可以更容易地将日志与我的 Pod 匹配。 尽管我可以添加自定义标签,但我无法公开和附加 Kubernetes 元数据信息: 这是我的 FluentBit 配置图: custom_parsers.conf: | [PARSER] Name docker_x ...

Admin

Fluentd 尾部配置用于来自 stdout 的 HashiCorp Vault 审计/服务器日志
fluentd

Fluentd 尾部配置用于来自 stdout 的 HashiCorp Vault 审计/服务器日志

我正在尝试找出一种方法来从 HasiCorp Vault 容器中获取审计和服务器日志(两个日志都转到同一容器的标准输出,并且它们具有不同的结构): 审计示例: 2024-02-11T15:24:37.298119887Z stdout F {"time":"2024-02-11T15:24:37.297967585Z","type":"request","auth":{"client_token":"xxxxxxxxxxxxxxxxxxxxxx","accessor":"xxxxxxxxxxxxxxxxxxx","display_name":"xxxxxxx...

Admin

如何获取我的系统支持的流畅位输入列表?
fluentd

如何获取我的系统支持的流畅位输入列表?

我尝试使用cpu插件,它说'cpu' tried to instance a plugin name that don't exists。我知道并非所有操作系统都支持所有输入,但我如何才能查看我当前所用系统的输入列表? fluent-bit -i cpu -o stdout -vv Fluent Bit v2.2.0 * Copyright (C) 2015-2023 The Fluent Bit Authors * Fluent Bit is a CNCF sub-project under the umbrella of Fluentd * https...

Admin

Kubernetes 中的 Fluent-bit 无法正确输入时间戳数据
fluentd

Kubernetes 中的 Fluent-bit 无法正确输入时间戳数据

在我的公司,我使用 Terraform 构建了一个 K8s 集群,并使用 EFK(Elasticsearch、Fluent-bit、Kibana)配置了一个日志系统。 k8s和Elasticsearch使用AWS的EKS和Opensearch Servcie(ES 7.10),并通过Helm单独将Fluent-bit作为Daemonset安装。 https://artifacthub.io/packages/helm/fluent/fluent-bit 对于Fluent-bit Config来说,其结构如下。 config: inputs: | ...

Admin

如何使用 EFK 收集在自定义路径中生成的应用程序日志
fluentd

如何使用 EFK 收集在自定义路径中生成的应用程序日志

我创建了在 kubernetes 集群之外运行的 elasticsearch 和 kibina 设置,并使用 fluentd 收集 kubernetes 日志并将数据发送到 elasticsearch。我在 kubernetes 中将 fluentd 作为守护程序集运行。 apiVersion: apps/v1 kind: DaemonSet metadata: namespace: efk name: fluentd labels: app: fluentd spec: selector: matchLabels: ...

Admin

如何使用 fluent-bit 将 Kubernetes 日志文件流式传输到其他位置?
fluentd

如何使用 fluent-bit 将 Kubernetes 日志文件流式传输到其他位置?

我有一个要求,我希望存储在该位置的所有 Kubernetes 容器的日志文件/var/log/containers/即使在集群重启或节点出现问题后也能保持持久性。我已经使用 elastic search、fluent-bit 和 Kibana 实现了 EFK。但现在我想要原封不动的日志文件。我尝试使用相同的 fluent-bit 将日志转发到不同的位置,使用以下配置: fluent-bit.conf: | [SERVICE] Flush 1 Log_Level info Daemon off ...

Admin

无法连接 DNS 服务器 (fluent bit)
fluentd

无法连接 DNS 服务器 (fluent bit)

我正在配置与 elasticsearch 的流畅位连接,我有 3 个 elasticsearch 节点,并且我想要高可用性,根据以下文档,它是这样做的文本,但未连接。 版本:fluent-bit:2.1 日志中的错误如下 [2023/10/06 16:11:06] [warn] [engine] 无法刷新块“1-1696602761.424989.flb”,请在 1007 秒后重试:task_id=401,input=tail.0 > output=es.0(out_id=0) [2023/10/06 16:11:06] [warn] [net] g...

Admin

Fluentd 日志未发送到 K8s 上的 Elasticsearch
fluentd

Fluentd 日志未发送到 K8s 上的 Elasticsearch

我在 VirtualBox 中有一个集群用于学习 kubernetes。我有一个包含 MySQL 和 phpMyAdmin 的部署。我创建了一个包含 fluentd 映像的 DemonSet,并收集日志以将它们传输到 IP 为 10.0.2.11 的 elastics。 我不明白为什么它无法连接到 elactic 并且出现此日志: 2023-08-28 11:28:49 +0000 [warn]: #0 [in_tail_container_logs] pattern not matched: "2023-08-28T11:28:48.393333576Z ...

Admin

Fluentd 日志未发送到 Elasticsearch
fluentd

Fluentd 日志未发送到 Elasticsearch

我在 VirtualBox 中有一个集群用于学习 kubernetes。我有一个包含 MySQL 和 phpMyAdmin 的部署。我创建了一个包含 fluentd 映像的 DemonSet,并收集日志以将它们传输到 IP 为 10.0.2.11 的 elastics。 我不明白为什么它无法连接到 elactic 并且出现此日志: 2023-08-28 11:28:49 +0000 [warn]: #0 [in_tail_container_logs] pattern not matched: "2023-08-28T11:28:48.393333576Z ...

Admin

无法与 Elasticsearch 通信,请重置连接并重试。EOFError (EOFError)
fluentd

无法与 Elasticsearch 通信,请重置连接并重试。EOFError (EOFError)

我正在使用 helm chart 在 kubernetes 中安装 elasticsearch、kibana 和 fluentd Elasticsearch 和 kibana pods 顺利启动,但 fluentd pods 没有启动,出现以下错误: 2023-06-13 13:29:39 +0000 [warn]: #0 [filter_kube_metadata] !! The environment variable 'K8S_NODE_NAME' is not set to the node name which can affect the API...

Admin

如何在 EKS 1.22(containerd)中使用 Fluent Bit 将 JSON 标记化的日志放入 CloudWatch
fluentd

如何在 EKS 1.22(containerd)中使用 Fluent Bit 将 JSON 标记化的日志放入 CloudWatch

我希望在 AWS EKS(版本 1.22)中运行时,从 CRI 应用程序日志中获取带有正确 json 标记的 AWS 日志条目消息 我的应用程序输出有效的 json,但日志行前面添加了YYYY-MM-DDTHH:MM:SS.MILLIZ stdout F。这意味着标准 JSON 解析器不起作用。 使用正则表达式解析器http://rubular.com/r/tjUt3Awgg4,我上面示例中的时间、流和日志标签均已正确识别,但我无法标记消息 JSON。我的日志内容位于密钥中message。 [PARSER] # http://rubular....

Admin