【问题标题】:How to get the last-modified or the creation time of a document crawled and indexed by nutch+solr?如何获取nutch+solr爬取和索引的文档的最后修改时间或创建时间?
【发布时间】:2018-10-15 17:23:28
【问题描述】:

我需要获取nutch+solr爬取和索引的某个内网下文档的最后修改时间或创建时间? 我尝试使用 Metadata.LAST_MODIFIED 字段,但它返回 null。一世 在显示我的搜索结果时需要它们。 Date 正在返回爬行的日期。 我在这方面不是很有经验,所以欢迎任何帮助!非常感谢你。 问候, 亚历克斯

【问题讨论】:

    标签: solr web-crawler document nutch last-modified


    【解决方案1】:

    很可能,您测试的 URL 没有返回 Last-Modified 响应标头。大多数网页不返回此信息。由于它在您的 Intranet 中,我建议使用一些工具(例如 Chrome 开发者工具的网络监视器)对其进行测试,以查看是否实际返回了标头。

    【讨论】:

    • 感谢您的回答。是的,它没有返回,但我可以在模式文件中看到该字段,也可以在为空的 solr(索引)中看到该字段。我现在会对如何查看将 nutch 推入爬网数据库段的数据感兴趣。你知道怎么做吗?
    • 我不确定我是否理解您的问题。如果要查看段中特定页面的元数据,请使用nutch readseg -get。如果您想了解 Nutch 如何决定在哪种情况下写入哪些元数据,您必须查看代码,或者更好的是,调试它。
    【解决方案2】:

    我在这里找到了一个可能的答案,但并不是我正在寻找的答案,它比这更复杂,但对其他人有帮助: www.ryanpfister.com/2009/04/how-to-sort-by-date-with-nutch/

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2017-12-16
      • 2010-09-19
      • 2012-05-13
      相关资源
      最近更新 更多