【问题标题】:Why does Flume need to have a AMQP source?为什么 Flume 需要有 AMQP 源?
【发布时间】:2013-08-13 20:29:43
【问题描述】:

Flume 有几个第三方插件来支持 AMQP 源。 为什么我们要将消息发送到 rabbitmq 或 qpid 然后发送到 flume 而不是直接发送到 flume ? 我错过了什么吗?

另外,在什么情况下我应该使用 Qpid、rabbitMQ 之类的消息队列以及 Flume 之类的消息队列? 我读了 Qpid , RabbitMQ 保证订购交付,这对我来说并不重要。 还有其他区别吗?

我们可以动态添加通道和接收器到正在运行的水槽代理吗?使用文件 roll sink 向源添加新通道,它不需要任何代码更改,只需更改 conf 文件并重新启动。有没有办法动态地做到这一点,即无需重新启动水槽代理

【问题讨论】:

    标签: hadoop rabbitmq messaging flume apache-kafka


    【解决方案1】:

    这基本上取决于您的用例。正如您所提到的,在您的用例中,有序交付并不重要,那么 Flume 可能适合。由于这个特性,Flume 实际上更快,并且它具有更便宜的容错设置。 Check this link 了解更多详情。

    此外,Flume 非常适合处理 Hadoop 环境(HDFS 作为接收器),因为它实际上是从那里演变而来的。出于同样的原因,您还会看到通过 Flume 推送 RabbitMQ(作为源)消息的用例。

    【讨论】:

    • 我们可以动态添加通道和接收器到正在运行的水槽代理吗?假设使用文件滚动接收器向源添加新通道,它不需要任何代码更改,只需更改 conf 文件。有没有办法动态地做到这一点,即无需重新启动水槽代理
    • 是的,可能是来自master的web界面,这样你就不必远程登录和重启之类的了。请参阅此链接:archive.cloudera.com/cdh/3/flume/UserGuide/…。我用了一年半前的水槽,所以对这个接触不多
    • 是的,但是 flume-ng 文档没有说任何关于水槽大师的事情。这是旧版本的旧文档
    • 是吗?检查这个链接evanconkle.com/tag/flume-ng 已经设置了flume master并且应该可以作为http接口使用。不过我可能已经过时了。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2019-12-14
    • 1970-01-01
    • 2019-06-09
    • 2016-02-09
    • 2015-08-04
    相关资源
    最近更新 更多