【问题标题】:Multi Curl vs file_get_html from SIMPLEHTMLDOM optimization? slow loading page来自 SIMPLEHTMLDOM 优化的 Multi Curl vs file_get_html?页面加载缓慢
【发布时间】:2011-03-18 06:21:33
【问题描述】:

我一直在学习如何使用 curl multi 和 simplehtmldom 抓取页面。我最初使用正则表达式来获取某些项目,直到我发现 simplehtmldom 减轻了我的编码负担。呸!无论如何,我的页面加载速度很慢,我将从多个页面中抓取。我现在正在从 3 开始,大约需要 3 分钟。 5秒加载,可能会更长一点。我想知道优化我的网页的最佳方法是什么?我正在使用 curl 从 simplehtmldom 获取一些页面以及 file_get_html。我应该一直坚持使用 simplehtmldom 吗?

提前感谢您的回复!

【问题讨论】:

  • 您是否通过抓取来动态构建网页?这至少是我对你的问题的看法。在这种情况下,您绝对应该事先进行刮...
  • 我发现我可以使用 curl mutli,现在使用 file_get_html。感谢您的回复!但是对于那些想知道的人,我将每个数组元素传递到 str_get_html() 中,我在这里得到了另一个问题的回答:stackoverflow.com/questions/5363600/…
  • 考虑将此问题标记为已解决

标签: optimization dom curl web-scraping


【解决方案1】:

andrewliu 找到的解决方案: “我发现我可以使用 curl mutli,现在使用 file_get_html。感谢您的回复!但对于那些想知道的人,我将每个数组元素传递到 str_get_html(),”

【讨论】:

    猜你喜欢
    • 2015-03-15
    • 2012-04-10
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-11-22
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多