【发布时间】:2017-08-29 11:45:12
【问题描述】:
我正在尝试抓取网页上的视频链接,https://www.tokopedia.com/chocoapple/ready-stock-bnib-iphone-128gb-7-plus-jet-black-garansi-apple-1-tahun-10?src=topads 有些链接是通过“webyclip”服务生成的,该服务在页面加载后加载数据。我想要在加载所有 JavaScript 和 AJAX 后更新页面的 HTML 源(当我们在浏览器上执行“检查元素”时类似)。如何通过 chromedp 包 (https://github.com/knq/chromedp) 完成它。它是 GoLang 的无头浏览器。请帮忙。我是网络抓取的新手。
编辑:它与链接中提到的另一个问题不同。因为这是特定于 chromedp 包的。 cmets 中的一个询问如何/使用什么来抓取动态内容。
【问题讨论】:
-
@TimCooper:这个问题专门针对 chromedp 包。
标签: go web-scraping web-crawler headless-browser