filebeat 配置的自定义 fields 和logstash fliter

filebeat 配置的自定义 fields 和logstash fliter

您好我想问一下这个问题

filebeat可以配置一个自定义的一些fields

https://www.elastic.co/guide/en/beats/filebeat/6.8/filebeat-input-log.html#filebeat-input-log-fields

比如我们配置了 logbiz logtopic

然后filebeat 看到了新的log日志有新的 然后去读并根据我们定义的input传给 Kafka


另一端 logstash 监听到了有新的消息需要消费

然后logstash 里这个filter 就能神奇的解析在filebeat配置的这个input fields们

比如 if "app-log" in [fields][logtopic]


我想知道这些fields从filebeat input配置的 里是什么数据格式传输/存储到Kafka上的

然后当logstash 拿到了数据后是怎么正确解析的


如果说我们自己做这个可能回考虑比如 map 或者 headers的的数据形式

或者按照一定二进制的方法 放在信息体里 但是问题是 生产端的filebeat的配置格式 怎么就神奇的完美的 可以让logstash解析

我知道这两个应用是一群人做的但是 还是想知道具体filebeat -> kafka -> logstash是怎么处理的


​谢谢

有linkedin没 互粉一下

https://www.linkedin.com/in/hongyu-cheng/

正在回答 回答被采纳积分+1

登陆购买课程后可参与讨论,去登陆

1回答
阿神 2021-05-05 11:41:39

就是json格式到kafka,然后logstash拉去消息(consumer)消费而已

  • 提问者 我爱吃板面 #1

    具体底层 filebeat 和 logstash是怎么就能 互通个字定义的变量或者说markup呢

    filebeat 放到kafka

    logstash 抓取然后放到es


    就像你说的这个json对象是怎么约定key-val定义的然后完美的就能读组字定义变量以及比如  if "app-log" in [fields][logtopic] 这些定义变量呢



    2021-05-16 04:59:04
问题已解决,确定采纳
还有疑问,暂不采纳

恭喜解决一个难题,获得1积分~

来为老师/同学的回答评分吧

0 星
请稍等 ...
意见反馈 帮助中心 APP下载
官方微信

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师