加入收藏 | 设为首页 | 会员中心 | 我要投稿 财气旺网 - 海宁网 (https://www.hainingwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 大数据 > 正文

大数据:数据采集平台之Logstash

发布时间:2022-10-11 11:20:57 所属栏目:大数据 来源:
导读:  大数据:数据采集平台之Logstash

  Apache Flume

  详情请看文章:《大数据:数据采集平台之Apache Flume》

  Fluentd

  详情请看文章:《大数据:数据采集平台之Fluentd》

  Log
  大数据:数据采集平台之Logstash
 
  Apache Flume
 
  详情请看文章:《大数据:数据采集平台之Apache Flume》
 
  Fluentd
 
  详情请看文章:《大数据:数据采集平台之Fluentd》
 
  Logstash
 
  详情请看文章:《大数据:数据采集平台之Logstash》
 
  Apache Chukwa
 
  详情请看文章:《大数据:数据采集平台之Apache Chukwa 》
 
  Scribe
 
  详情请看文章:《大数据:数据采集平台之Scribe 》
 
  Splunk Forwarder
 
  详情请看文章:《大数据:数据采集平台之Splunk Forwarder》
 
  官网:
 
  Logstash 是著名的开源数据栈ELK (ElasticSearch, Logstash, Kibana)中的那个L。
 
  Logstash用JRuby开发,所以运行时依赖JVM。
 
  Logstash的部署架构如下图,当然这只是一种部署的选项。
 
  一个典型的Logstash的配置如下,包括了Input,filter的Output的设置。
 
  input {
      file {
          type =>"apache-access"
          path =>"/var/log/apache2/other_vhosts_access.log"
      }
      
      file {
          type =>"pache-error"
          path =>"/var/log/apache2/error.log"
      }
  }
  filter {
      grok {
          match => {"message"=>"%(COMBINEDAPACHELOG)"}
      }
      
      date {
          match => {"timestamp"=>"dd/MMM/yyyy:HH:mm:ss Z"}
      }
  }
  output  {
      stdout {}
      redis {
          host=>"192.168.1.289"
          data_type => "list"
          key => "logstash"
      }
  }
  几乎在大部分的情况下ELK作为一个栈是被同时使用的。所有当你的数据系统使用ElasticSearch的情况下大数据搜集,logstash是首选。
 

(编辑:财气旺网 - 海宁网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!