【问题标题】:how to automate pagination with selenium python?(without manually selecting the next button)如何使用 selenium python 自动分页?(无需手动选择下一步按钮)
【发布时间】:2020-06-20 01:07:41
【问题描述】:

我正在抓取图片的网站列表,使用 selenium webdriver+scrapy,但是每个网站的下一个按钮有不同的类/div 名称,如何在不同的网站中自动查找要抓取的下一页?

【问题讨论】:

  • 请添加您的代码示例以及您尝试过的内容,对于大多数人来说很难回答一个不够集中的问题。另外,请考虑查看:how to ask?。谢谢!

标签: python-3.x selenium-webdriver web-scraping scrapy python-requests


【解决方案1】:

这是最基本的分页结构:

page_count = 1
while (nextbutton.isEnbled):
# Increase page_count value on each iteration on +1
page_count += 1
try:
    nextbutton.click()
except NoSuchElementException:
    # Stop loop if no more page available
    break

【讨论】:

    猜你喜欢
    • 2013-10-04
    • 2020-11-25
    • 1970-01-01
    • 2021-04-26
    • 1970-01-01
    • 2021-03-31
    • 2014-04-27
    • 1970-01-01
    • 2015-07-22
    相关资源
    最近更新 更多