【问题标题】:is there a better way to do this XML scraping task in R?有没有更好的方法在 R 中完成这个 XML 抓取任务?
【发布时间】:2011-12-12 19:51:30
【问题描述】:

我有一些看起来像这样的 XML:

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE plist PUBLIC "-//Apple Computer//DTD PLIST 1.0//EN" "http://www.apple.com/DTDs/PropertyList-1.0.dtd">
<plist version="1.0">
<array>
    <dict>
    <key>bbox.NE.lat</key>
    <string>-27.45433</string>
    <key>bbox.NE.lon</key>
    <string>153.01474</string>
    <key>bbox.SW.lat</key>
    <string>-27.45706</string>
    <key>bbox.SW.lon</key>
    <string>153.01239</string>
    <key>crs</key>
    <string>EPSG 4326</string>
    <key>found</key>
    <string>1</string>
</dict>
<array>
    <dict>
        <key>bbox</key>
        <dict>
            <key>bbox.NE.lat</key>
            <string>-27.45433</string>
            <key>bbox.NE.lon</key>
            <string>153.01474</string>
            <key>bbox.SW.lat</key>
            <string>-27.45706</string>
            <key>bbox.SW.lon</key>
            <string>153.01239</string>
        </dict>
        <key>centroid</key>
        <dict>
            <key>lat</key>
            <dict>
                <key>lat</key>
                <string>-27.45513</string>
                <key>lon</key>
                <string>153.0137</string>
            </dict>
        </dict>
        <key>id</key>
        <string>33037721</string>
        <key>properties</key>
        <dict>
            <key>amenity</key>
            <string>university</string>
            <key>name</key>
            <string>Queensland University of Technology</string>
            <key>osm_element</key>
            <string>way</string>
            <key>osm_id</key>
            <string>26303436</string>
        </dict>
    </dict>
</array>
</array>
</plist>

为了重现性,我用循环抓取了 XML:

# initialize the vector
queries<-(0)
# loop over coordinates - signups$latlong is just a vector of coordinates
# signups$latlong[1] = "51.5130004883%20-0.1230000034 
# the space between lat & long is URL encoded
for(i in 1:length(signups$latlong)){
#self-imposed rate-limiting
Sys.sleep(0.05)
# if query returns an error, write NA and move on, also output to console so I can keep an eye on it
if(class(try(queries[i]<- getURL(paste("http://geocoding.cloudmade.com/[API KEY HERE]/geocoding/v2/find.plist?object_type=university&around=",signups$latlong[i],"&results=5&distance=closest", sep="")), silent=T))=="try-error")
  {
    queries[i]<-NA
    print("NA")
    print(i)
    }
  # just a progress indicator
  else(print(i))
}

我只是在大学的名字之后。我对 XML 了解不多,但我发现这是可行的:

pagetree<-(0)
for (i in 1:length(queries)){
  plist<-xmlTreeParse(queries[i])$doc$children$plist
  nodes<-getNodeSet(plist, "//array//array//dict")
  if(class(try(pagetree[i]<-xmlValue(nodes[[5]][[4]]), silent = T))=="try-error") pagetree[i]<-NA
}

但是,我看到提到了xmlXPathApply(),我想知道解析循环是否无法重写以使用它。

我卡住的地方是我不知道如何为我想要的部分编写 XPath,因为有多个具有相同名称的节点。

不要犹豫,提出更好的错误处理方法。

【问题讨论】:

  • 您的 XML 格式错误,您确定您提供的是真实数据吗?
  • 这是一个格式问题。现在应该是正确的。
  • 是的,格式错误的 XML 肯定是格式问题

标签: xml r xpath web-scraping


【解决方案1】:

修复xml后...

用xpath遍历这个的方法是:

> plist = xmlParse('data.xml')
> xpathSApply(plist, '/plist/array/dict/dict/string', xmlValue)
[1] "-27.45433"                           "153.01474"                          
[3] "-27.45706"                           "153.01239"                          
[5] "university"                          "Queensland University of Technology"
[7] "way"                                 "26303436" 

您可以正常索引的输出。

但是,如果节点具有属性,例如&lt;string type='uniname"&gt;...&lt;/string&gt;,那么您可以使用漂亮的“@”语法,例如:

> xpathSApply(plist, '/plist/array/dict/dict/string[@type='uniname']', xmlValue)

另一种可能更适合这种 plist 格式的方法是:

> sapply(getNodeSet(plist, '//key[text() = "name"]'), function(x) xmlValue(getSibling(x)))
[1] "Queensland University of Technology"

【讨论】:

  • 谢谢!因此,如果我在一个名为 output 的对象中有大约 14000 个上述 XML 块,我可以使用 for(i in length(output)) university[i]&lt;-xpathSApply(plist[i], '/plist/array/dict/dict/string', xmlValue)[6] 之类的东西来获取这些值?
  • 是的,这听起来是正确的。另请参阅上面我添加的替代方式,这可能更适合 plist 格式。
  • 我认为query = '//string[text() = "university"]/following-sibling::string[1]/text()'xmlValue(plist[[query]]) 一起使用可以获得大学学位;我会 plist = xmlTreeParse(url, useInternalNodes=TRUE) 没有明确的 getUrllapply 输出而不是循环。
  • 好的,这似乎解决了我的后续问题,如果不是所有 XML 块都具有相同数量的节点,该怎么办。我会试试这个。 Martin,我没有意识到我可以直接在 xmlTreeParse 中使用 URL 而无需先获取它。如需积分,请单独提交。
猜你喜欢
  • 1970-01-01
  • 2019-05-14
  • 1970-01-01
  • 2021-08-12
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2021-07-05
  • 1970-01-01
相关资源
最近更新 更多