【发布时间】:2018-10-07 08:16:31
【问题描述】:
在抓取 javascript 基础网站 (link) 期间,我坚持使用无法产生预期结果的点击功能。我已经粘贴了应该在“适合以下汽车”下拉菜单下返回数据的代码,但出乎意料的是,它只是打印了 except 语句的消息。我能够从同一代码中抓取所有其他数据。我是否应该再添加几行以使数据隐藏在该下拉列表下,如果是,那么要添加哪些行。
def product(self,response):
while True:
try:
drop=self.driver.find_element_by_xpath('//*[@id="toggleMakeModelArrow"]')
self.logger.info('Sleep for 3 sec.')
sleep(3)
drop.click()
sel=Selector(text=self.driver.page_source)
drop_down=sel.xpath('//*[@id="CachedItemDispaly_make_model_div"]/select/option/text()').extract()
for i in range(len(drop_down)):
print drop_down[i]+"||"
except NoSuchElementException:
self.logger.info('No more Fits the following cars to load..')
break
【问题讨论】:
标签: python-2.7 selenium scrapy-spider