【发布时间】:2014-07-09 05:58:47
【问题描述】:
像 Flipboard 这样的新闻聚合器如何将他们的文章归入“政治”、“商业”等类别?我已经搜索过,但没有找到任何结果。我想这可以手动完成,但考虑到订阅源的数量。是否有一个公共数据库包含按类别列出的 RSS 订阅源列表?如果没有,这是如何完成的?
【问题讨论】:
标签: rss
像 Flipboard 这样的新闻聚合器如何将他们的文章归入“政治”、“商业”等类别?我已经搜索过,但没有找到任何结果。我想这可以手动完成,但考虑到订阅源的数量。是否有一个公共数据库包含按类别列出的 RSS 订阅源列表?如果没有,这是如何完成的?
【问题讨论】:
标签: rss
这可能是一个复杂的多步骤过程,但总的来说:
将数据标记为段落、句子和单词。 http://nlp.stanford.edu/software/tokenizer.shtml 是一个可以完成此任务的工具示例。 http://alias-i.com/lingpipe/ 是另一个例子。
标记化后,丢弃非特定的通用词(也称为“停用词”),例如“a”、“the”、“ha”、“lol”、“omg”等. 标记器通常具有内置方法,可以识别并处理它们。
识别 n-gram(组合在一起的单词)。例如,“Bay”和“Area”这两个词是两个词,但它们通常被认为是一个词“Bay Area”。您需要识别这样的实体才能正确分类。
按词性对剩余项目进行分组。这可能很方便,例如,去掉动词、副词,只使用名词和形容词进行类别分类。
最后,按类别对数据进行切片和切块。
【讨论】: