Golang 网络爬虫 NTLM 身份验证

Question

Golang 网络爬虫需要从经过 NTLM 身份验证的网页中提取信息。

拥有有效的用户名和密码，网络爬虫如何与服务器执行 NTLM 4 次握手以访问受保护的网页？

url, username, password := "http://www.some-website.com", "admin", "12345"

client := &http.Client{}
req, _ := http.NewRequest("GET", url, nil)
req.Header.Set("Authorization", "NTLM")
res, _ := client.Do(req)

Answer 1

在开始抓取之前，您可以使用 Azure/go-ntlmssp 之类的包进行身份验证。

url, username, password := "http://www.some-website.com", "admin", "12345"

client := &http.Client{
    Transport: ntlmssp.Negotiator{
        RoundTripper:&http.Transport{},
    },
}

req, _ := http.NewRequest("GET", url, nil)
req.SetBasicAuth(username, password)

res, _ := client.Do(req)