【问题标题】:Flume - Solr IntegrationFlume - Solr 集成
【发布时间】:2015-05-08 08:27:25
【问题描述】:

这是我的场景。

输入 JSON 数据流向 Flume,需要对其进行索引并近乎实时地存储到 Solr。我正在使用最新的 CDH 版本。

我没有找到完整的文档。它在某些地方断开连接。

你能指出我正确的方向吗?

  • 我是否应该使用 Morphilines 水槽并说不要进行任何转换?或者,如果我不想对 json 进行任何转换,我可以使用其他接收器直接写入 Solr 吗?
  • 指向具有明确步骤的文档的指针
  • 或者请以分步的形式列出您将要做什么(当然,非常高级)。

【问题讨论】:

  • 我忘记添加了。我的来源是 RabbitMQ。我认为 JMS 源很适合这种情况。评论?

标签: json solr flume cloudera-cdh flume-ng


【解决方案1】:

这里有几点建议:

1) 如果您的 Source 是 RabbitMQ,则 JMSSource 是正确的组件。

2) 如果没有编写自己的 SOLR 自定义源,我建议使用 MorphlineSOLRSink,无需转换。它就像一个魅力。如果您不必转换或修改事物,您可以实现自己的自定义处理程序或使用拦截器。请记住,SOLR 记录的数量必须与您的源接收的事件数量相对应。

【讨论】:

    猜你喜欢
    • 2016-11-23
    • 2011-09-05
    • 1970-01-01
    • 1970-01-01
    • 2012-08-14
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2023-04-05
    相关资源
    最近更新 更多