Flume 总结(四)sinks类型-1.9.0新版

1. sinks

Flume 总结(四)sinks类型-1.9.0新版

  1. HDFS SinkFlume 总结(四)sinks类型-1.9.0新版
    Flume 总结(四)sinks类型-1.9.0新版
    Flume 总结(四)sinks类型-1.9.0新版

注意,日志数据放到hdfs或者其他地方,一般都是根据时间进行文件管理分类,一般都是天,也有以小时进行存储的
当以时间进行存放时,可以时间建立目录,这时候时间可以从日志中取(需要在拦截器中取出时间戳放进event的header中)
当以时间进行文件命名或者参与命名时,可以对时间进行的间隔进行设计,例如以小时,则可以设计10小时建立下一个目录
由于日志较多,存入hdfs时,可以设计以存入条数,存入文件大小,存入时间间隔进行文件滚动规则设置

  1. Hive Sink
    Flume 总结(四)sinks类型-1.9.0新版
    Flume 总结(四)sinks类型-1.9.0新版
    Flume 总结(四)sinks类型-1.9.0新版
  2. Logger SinkFlume 总结(四)sinks类型-1.9.0新版
  3. Avro Sink
    Flume 总结(四)sinks类型-1.9.0新版

使用avro,可以进行agent级联,组成复杂的网络和层级

  1. Thrift Sink
    Flume 总结(四)sinks类型-1.9.0新版
  2. IRC Sink
    Flume 总结(四)sinks类型-1.9.0新版
  3. File Roll Sink
    Flume 总结(四)sinks类型-1.9.0新版
  4. Null Sink
    Flume 总结(四)sinks类型-1.9.0新版
  5. HBaseSinkFlume 总结(四)sinks类型-1.9.0新版

自动查找会去环境变量对应软件hbase的配置文件中

  1. HBase2SinkFlume 总结(四)sinks类型-1.9.0新版

  2. AsyncHBaseSink
    Flume 总结(四)sinks类型-1.9.0新版

  3. MorphlineSolrSinkFlume 总结(四)sinks类型-1.9.0新版

Flume 总结(四)sinks类型-1.9.0新版
Flume 总结(四)sinks类型-1.9.0新版

  1. ElasticSearchSink
    Flume 总结(四)sinks类型-1.9.0新版
    Flume 总结(四)sinks类型-1.9.0新版
    Flume 总结(四)sinks类型-1.9.0新版

  2. Kite Dataset Sink
    Flume 总结(四)sinks类型-1.9.0新版

  3. Kafka Sink
    Flume 总结(四)sinks类型-1.9.0新版
    Flume 总结(四)sinks类型-1.9.0新版
    Flume 总结(四)sinks类型-1.9.0新版
    Flume 总结(四)sinks类型-1.9.0新版

  4. HTTP Sink
    Flume 总结(四)sinks类型-1.9.0新版

  5. Custom SinkFlume 总结(四)sinks类型-1.9.0新版

自定义sink

相关文章:

  • 2022-12-23
  • 2021-11-19
  • 2021-04-14
  • 2022-01-06
  • 2022-01-27
  • 2022-12-23
  • 2021-11-25
  • 2022-12-23
猜你喜欢
  • 2021-06-26
  • 2021-11-01
  • 2021-11-02
  • 2021-05-01
  • 2022-01-05
  • 2021-10-03
  • 2022-01-07
相关资源
相似解决方案