【发布时间】:2011-03-18 06:21:33
【问题描述】:
我一直在学习如何使用 curl multi 和 simplehtmldom 抓取页面。我最初使用正则表达式来获取某些项目,直到我发现 simplehtmldom 减轻了我的编码负担。呸!无论如何,我的页面加载速度很慢,我将从多个页面中抓取。我现在正在从 3 开始,大约需要 3 分钟。 5秒加载,可能会更长一点。我想知道优化我的网页的最佳方法是什么?我正在使用 curl 从 simplehtmldom 获取一些页面以及 file_get_html。我应该一直坚持使用 simplehtmldom 吗?
提前感谢您的回复!
【问题讨论】:
-
您是否通过抓取来动态构建网页?这至少是我对你的问题的看法。在这种情况下,您绝对应该事先进行刮...
-
我发现我可以使用 curl mutli,现在使用 file_get_html。感谢您的回复!但是对于那些想知道的人,我将每个数组元素传递到 str_get_html() 中,我在这里得到了另一个问题的回答:stackoverflow.com/questions/5363600/…
-
考虑将此问题标记为已解决
标签: optimization dom curl web-scraping