Flume 总结(四)sinks类型-1.9.0新版
1. sinks
- HDFS Sink
注意,日志数据放到hdfs或者其他地方,一般都是根据时间进行文件管理分类,一般都是天,也有以小时进行存储的
当以时间进行存放时,可以时间建立目录,这时候时间可以从日志中取(需要在拦截器中取出时间戳放进event的header中)
当以时间进行文件命名或者参与命名时,可以对时间进行的间隔进行设计,例如以小时,则可以设计10小时建立下一个目录
由于日志较多,存入hdfs时,可以设计以存入条数,存入文件大小,存入时间间隔进行文件滚动规则设置
- Hive Sink
- Logger Sink
- Avro Sink
使用avro,可以进行agent级联,组成复杂的网络和层级
- Thrift Sink
- IRC Sink
- File Roll Sink
- Null Sink
- HBaseSink
自动查找会去环境变量对应软件hbase的配置文件中
-
HBase2Sink
-
AsyncHBaseSink
-
MorphlineSolrSink
-
ElasticSearchSink
-
Kite Dataset Sink
-
Kafka Sink
-
HTTP Sink
-
Custom Sink
自定义sink