为什么 UTF-8 在这种编码上失败？

Question

我即将下载一个以 UTF-8 编码的page。 所以这是我的代码：

using (WebClient client = new WebClient())
{
    client.Headers.Add("user-agent", Request.UserAgent);

    htmlPage = client.DownloadString(HttpUtility.UrlDecode(resoruce_url));

    var KeysParsed = HttpUtility.ParseQueryString(client.ResponseHeaders["Content-Type"].Replace(" ", "").Replace(";", "&"));
    var charset = ((KeysParsed["charset"] != null) ? KeysParsed["charset"] : "UTF-8");
    Response.Write(client.ResponseHeaders);

    byte[] bytePage = Encoding.GetEncoding(charset).GetBytes(htmlPage);
    using (var reader = new StreamReader(new MemoryStream(bytePage), Encoding.GetEncoding(charset)))
    {
        htmlPage = reader.ReadToEnd();
        Response.Write(htmlPage);
    }
}

所以，它为编码设置了UTF-8。但是下载的标题，例如，在我的屏幕上显示为：

Sexy cover: 60 e più di “quei dischi” vietati ai minori

而不是：

Sexy cover: 60 e più di “quei dischi” vietati ai minori

出了点问题，但我不知道在哪里。有什么想法吗？

Answer 1

问题是当你得到数据时它已经被转换了。

WebClient.DownloadString 执行时，它会获取原始字节并使用默认编码将它们转换为字符串。损坏已完成。您不能将生成的字符串转换回字节，然后重新解释它。

换句话说，这就是正在发生的事情：

// WebClient.DownloadString does, essentially, this.
byte[] rawBytes = DownloadData();
string htmlPage = Encoding.Default.GetString(rawBytes);

// Now you're doing this:
byte[] myBytes = Encoding.Utf8.GetBytes(htmlPage);

但myBytes 不一定与rawBytes 相同。

如果您事先知道要使用什么编码，则可以设置WebClient 实例的Encoding 属性。如果要根据 Content-Type 标头中指定的编码来解释字符串，则必须下载原始字节，确定编码并使用它来解释字符串。例如：

var rawBytes = client.DownloadData(HttpUtility.UrlDecode(resoruce_url));
var KeysParsed = HttpUtility.ParseQueryString(client.ResponseHeaders["Content-Type"].Replace(" ", "").Replace(";", "&"));
var charset = ((KeysParsed["charset"] != null) ? KeysParsed["charset"] : "UTF-8");

var theEncoding = Encoding.GetEncoding(charset);
htmlPage = theEncoding.GetString(rawBytes);