【发布时间】:2018-10-15 17:23:28
【问题描述】:
我需要获取nutch+solr爬取和索引的某个内网下文档的最后修改时间或创建时间? 我尝试使用 Metadata.LAST_MODIFIED 字段,但它返回 null。一世 在显示我的搜索结果时需要它们。 Date 正在返回爬行的日期。 我在这方面不是很有经验,所以欢迎任何帮助!非常感谢你。 问候, 亚历克斯
【问题讨论】:
标签: solr web-crawler document nutch last-modified
我需要获取nutch+solr爬取和索引的某个内网下文档的最后修改时间或创建时间? 我尝试使用 Metadata.LAST_MODIFIED 字段,但它返回 null。一世 在显示我的搜索结果时需要它们。 Date 正在返回爬行的日期。 我在这方面不是很有经验,所以欢迎任何帮助!非常感谢你。 问候, 亚历克斯
【问题讨论】:
标签: solr web-crawler document nutch last-modified
很可能,您测试的 URL 没有返回 Last-Modified 响应标头。大多数网页不返回此信息。由于它在您的 Intranet 中,我建议使用一些工具(例如 Chrome 开发者工具的网络监视器)对其进行测试,以查看是否实际返回了标头。
【讨论】:
nutch readseg -get。如果您想了解 Nutch 如何决定在哪种情况下写入哪些元数据,您必须查看代码,或者更好的是,调试它。
我在这里找到了一个可能的答案,但并不是我正在寻找的答案,它比这更复杂,但对其他人有帮助: www.ryanpfister.com/2009/04/how-to-sort-by-date-with-nutch/
【讨论】: