• WebRequest 类的 Create 为静态方法,参数为要抓取的网页的网址;
  • Encoding 指定编码,Encoding 中有属性 ASCII、UTF32、UTF8 等全球通用的编码,但没有 gb2312 这个编码属性,所以我们使用 GetEncoding 获得 gb2312 编码。

示例

<%@ Page Language="C#" %>
<%@ Import Namespace="System.Net" %>
<%@ Import Namespace="System.IO" %>
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<script runat="server">
    void Page_Load(object sender, EventArgs e)
    {
        try
        {
            WebRequest request = WebRequest.Create("http://www.cftea.com/");
            WebResponse response = request.GetResponse();
            StreamReader reader = new StreamReader(response.GetResponseStream(), Encoding.GetEncoding("gb2312"));
            
            tb.Text = reader.ReadToEnd();
            
             reader.Close();
             reader.Dispose();
            response.Close();
        }
        catch (Exception ex)
        {
            tb.Text = ex.Message;
        }
    }
</script>
<html xmlns="http://www.w3.org/1999/xhtml" >
<head runat="server">
    <title>抓取网页内容 - 千一网络</title>
</head>
<body>
    <form ));
Response.Write(reader.ReadToEnd());
reader.Close();
reader.Dispose();
response.Close();

要说明的是:

  • 本文并不是 Cookie 欺骗,因为 SessionID 是 S1 告诉 S2 的,并不是 S2 窃取的,虽然有些古怪,但这可能在一些特定的应用系统中会有用。
  • S1 必须要向 B1 写 Session,这样 SessionID 才会保存到 Cookie 中,并且 SessionID 才会保持不变。
  • 在 ASP.NET 中取 Cookie 用 Request.Cookies,本文假设 Cookie 已经取出来。
  • 不同的服务器端语言,SessionID 在 Cookie 中上名称并不一样,本文是 ASP 的 SessionID。
  • S1 可能不仅仅依靠 SessionID 来判断当前登录,它可能还会辅助于 Referer、User-Agent 等,这取决于 S1 端程序的设计。
  • 其实本文算是本连载中“保持登录状态”的另一种方法。

ASP.NET 抓取网页内容-如何更改来源 Referer 和 UserAgent


HttpWebRequest request = (HttpWebRequest)HttpWebRequest.Create("http://127.0.0.1/index.htm");
//request.Headers.Add(HttpRequestHeader.Referer, "http://www.cftea.com/"); // 错误
//request.Headers[HttpRequestHeader.Referer] = "http://www.cftea.com/"; // 错误
request.Referer = "http://www.cftea.com/"; // 正确

注释掉的两句是不对的,会发生错误:

此标头必须使用适当的属性进行修改。
参数名: name

UserAgent 类似。

http://hi.baidu.com/xxbh/blog/item/ca1bb3b7dd45d5f830add1e9.html
转自:
http://apps.hi.baidu.com/share/detail/5941615

相关文章: