【发布时间】:2013-04-23 13:01:09
【问题描述】:
我有这个 HTML sn-p
<div id="dw__toc">
<h3 class="toggle">Table of Contents</h3>
<div>
<ul class="toc">
<li class="level1"><div class="li"><a href="#section">#</a></div>
<ul class="toc">
<li class="level2"><div class="li"><a href="#link1">One</a></div></li>
<li class="level2"><div class="li"><a href="#link2">Two</a></div></li>
<li class="level2"><div class="li"><a href="#link3">Three</a></div></li>
现在我想用 lxml.html 解析它。最后,我想要一个可以提供搜索项(即“one”)的函数,并且该函数应该返回
One
#link1
现在我正在尝试在 XPath 中获取一个变量。
作品:
import lxml.html
html = lxml.html.parse("www.myurl.com/slash/something")
test=html.xpath("//ul[@class='toc']/li[@class='level2']/div[@class='li']/a/text()='One'")
print test
尝试使用变量。我想将硬编码的'One' 替换为稍后可以返回到函数的变量。
不起作用:
import lxml.html
html = lxml.html.parse("www.myurl.com/slash/something")
desiredvars = ['One']
myresultset=((var, html.xpath("//ul[@class='toc']/li[@class='level2']/div[@class='li']/a[text()='%s']"%(var))[0]) for var in desiredvars)
for each in myresultset:
print each
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "<stdin>", line 1, in <genexpr>
IndexError: list index out of range
这是基于这个答案:https://stackoverflow.com/a/10688235/2320453 知道为什么它不起作用吗?这是做这样的事情的“正确方法”吗?
编辑: 总结一下: 我想在 a-Tags 中搜索并从此属性中获取文本,但我不想要一个完整的列表,而是希望能够使用变量进行搜索。 伪代码:
import lxml.html
html = lxml.html.parse("www.myurl.com/slash/something")
searchterm = 'one'
test=html.xpath("...a/text()=searchterm")
print test
预期结果
One
#link1
【问题讨论】:
标签: python html parsing web-scraping lxml