【发布时间】:2014-05-24 21:19:47
【问题描述】:
我正在尝试检测某些网站是否是“有效”网站。使网站无效的一些因素:
- 返回错误状态代码
- 页面内容为空
- 网站是抢注者(例如,网址指向 GoDaddy 页面,或任何显示来注册此域的页面!)
我正试图弄清楚如何检测网站是否是擅自占地者。如果这很重要,我正在使用 Java。有什么想法吗?
【问题讨论】:
标签: java algorithm web-crawler feature-detection
我正在尝试检测某些网站是否是“有效”网站。使网站无效的一些因素:
我正试图弄清楚如何检测网站是否是擅自占地者。如果这很重要,我正在使用 Java。有什么想法吗?
【问题讨论】:
标签: java algorithm web-crawler feature-detection
在我看来,Machine Learning 的任务听起来不错。
收集网站样本,其中一些是“擅自占地者”,而另一些则不是(这称为训练集)。
使用bag of words 模型或tf-idf model(或任何其他模型)作为您的特征空间,并使用一些supervised learning algorithm(SVM,decision trees,...)训练分类器。
在运行时,使用您的分类器来确定网站是否是擅自占地者。
Weka 是一个实现许多机器学习算法的 java 库,可能会对您有所帮助。
【讨论】: