Python Selenium 将数据存储到 CSV 中的特定列？答案

【问题标题】：Python Selenium store data to specific column in CSV?Python Selenium 将数据存储到 CSV 中的特定列？
【发布时间】：2019-01-22 11:39:30
【问题描述】：

我有两个打印件要写入单个 CSV 文件到列 A 和列 B

我的问题是，当我在最后同时打印（第一次和第二次打印）时，我只得到一个元素，我猜是因为它不在循环内左右。

print((text), (link[0:-9]))

结果：

LMFCIIC PWFERT-BK
LMFCIIC PMFEP-BK
LMFCIIC LMF8CC-BL
LMFCIIC PMFEP-GY
LMFCIIC ASPCP-NV
LMFCIIC LWBASK-PK
LMFCIIC LWBATA-PK
LMFCIIC LWBATOP-PK
LMFCIIC LMF8CC-RD

我的第一个打印看起来像这样：我想将它打印到列 A

PWFERT-BK
PMFEP-BK
LMF8CC-BL
PMFEP-GY
ASPCP-NV
LWBASK-PK
LWBATA-PK
LWBATOP-PK
LMF8CC-RD

我的第二次打印看起来像这样：我想将它打印到列 B

LMFCIIC


LWBASK
LWBATA
LWBATOP
LMFCIIC

这是我的完整代码：

from bs4 import BeautifulSoup
from selenium import webdriver
import html5lib
import time
import requests

driver_path = '/usr/local/bin/chromedriver 2'
driver = webdriver.Chrome(driver_path)
driver.implicitly_wait(10)

driver.get('https://www.tenniswarehouse-europe.com/zzz/producttracker_bl.html?ccode=SWIMG030')
try:
    iframe = driver.find_elements_by_tag_name('iframe')
    for i in range(0, len(iframe)):
            f = driver.find_elements_by_tag_name('iframe')[i]
            driver.switch_to.frame(i)
            #  your work to extract link
            text = driver.find_element_by_tag_name('body').text
            text = text.replace("Code: ","")
            text = text.replace("No Copy Images to TW Server","")
            print(text)
            driver.switch_to_default_content()
finally:
    driver.quit()

resp = requests.get('https://www.tenniswarehouse-europe.com/zzz/producttracker_bl.html?ccode=SWIMG030')
soup = BeautifulSoup(resp.text,"lxml")
for frame in soup.findAll('img'):
    link = (frame['src'])
    link = link.split('=')[1] 
    print ((link[0:-9]))

我使用了 www.example.com，因为我的网络无法访问该链接

【问题讨论】：

您可以使用 pandas 库，它有一个名为 df.to_csv("filename.csv") 的方法，您可以使用它将其保存到 csv
不要将print 转换为 CSV。使用csv package 而不是重新发明轮子。
@zvone - 你介意告诉我应该在哪里更改我的代码，这样我就可以节省时间而不是重新发明轮子吗？
谁能指导我正确的道路，好吗？
@Andie31 请解决代码最后 4 行的缩进问题

标签： python csv web-scraping

【解决方案1】：

当您编写driver.switch_to.frame(i) 时，您基本上是在访问 iframe html 元素。像普通的 html 页面一样，您也可以访问其内部元素。

你之前的问题 iframe 是这样的

<body>
<a href="http://www.test2.com" target="_blank">
<img src="https://img2.test2.com/LWBAD-1.jpg"></a>
<br/>Code: LWBAD

您可以通过

轻松访问图片网址

img_src = driver.find_element_by_tag_name('img').get_attribute('src')

并将其存储在 csv 文件中

代码：

from bs4 import BeautifulSoup
from selenium import webdriver
import html5lib
import time
import requests
import csv

driver_path = '/usr/local/bin/chromedriver 2'
driver = webdriver.Chrome(driver_path)
driver.implicitly_wait(10)

driver.get('https://www.example.com')

iframe = driver.find_elements_by_tag_name('iframe')
images = driver.find_elements_by_tag_name('img')
with open('file_name.csv', 'w', newline='') as csvfile:
    field_names = ['text', 'src']
    writer = csv.DictWriter(csvfile, fieldnames=field_names)
    writer.writerow({'text': 'text', 'src': 'src'})
    for i in range(0, len(iframe)):
        f = driver.find_elements_by_tag_name('iframe')[i]
        img_src = images[i].get_attribute('src')

        # do the src splitting here
        img_src = img_src.split('=')[1]

        driver.switch_to.frame(i)

        text = driver.find_element_by_tag_name('body').text


        text = text.replace("Code: ", "")
        text = text.replace("No Copy Images to TW Server", "")
        print(text)
        writer.writerow({'text': text, 'src': img_src})

        driver.switch_to_default_content()
driver.quit()

【讨论】：

如果你想进一步解释 csv writer，你可以参考我之前的回答 this link
试图与第一部分代码拼凑在一起，有问题:(AttributeError: module 'csv' has no attribute 'DictWriter' 在第 15 行你介意检查一下吗？
使用import csv
我做到了 :( 运气不好
你忘了包含iframe = driver.find_elements_by_tag_name('iframe')