从特定网站下载所有可用的 CSV 和 KML 文件

Question

我正在尝试使用 python 来自动化从 data.gov.sg 下载所有可用的 CSV 和 KML 文件的过程。但是，我们收到了“HTTP Error 403: Forbidden”错误消息。我们曾经得到一个已经解决的 robots.txt 错误。我们下面的编码有什么问题吗？

import mechanize
from time import sleep
br = mechanize.Browser()

br.open('https://data.gov.sg/')

f=open("source.html","w")
f.write(br.response().read()) 
f.close()

filetypes=[".csv",".kml"] 
myfiles=[]
for l in br.links(): 
    for t in filetypes:
        if t in str(l): 
            myfiles.append(l)


def downloadlink(l):
    f=open(l.text,"w") 
    br.click_link(l)
    f.write(br.response().read())
    f.close()
    print l.text," has been downloaded"
#br.back()

for l in myfiles:
    sleep(1) 
    downloadlink(l)

Answer 1

HTTP 403 错误http://www.w3.org/Protocols/rfc2616/rfc2616-sec10.html#sec10.4.4 表示您已被禁止访问，或者您需要被授权访问，或者服务器管理员阻止您访问它并发送 403 响应作为通知。

所以你的代码没有任何问题（尽管你似乎失去了缩进），我可以看到这会导致这个问题。