HttpGetText()，自动检测字符集，并将源转换为 UTF8答案

【问题标题】：HttpGetText(), autodetect charset, and convert source to UTF8HttpGetText()，自动检测字符集，并将源转换为 UTF8
【发布时间】：2011-07-26 21:31:42
【问题描述】：

我使用 HttpGetText 和 Synapse for Delphi 7 Professional 来获取网页的源代码 - 但请随意推荐任何组件和代码。

我们的目标是通过将非 ASCII 字符“统一”为单个字符集来节省一些时间，这样我就可以使用相同的 Delphi 代码来处理它。

因此，如果您知道我的意思，我正在寻找类似于“在 Notepad++ 中全选并转换为没有 BOM 的 UTF”的内容。 ANSI 代替 UTF8 也可以。

网页以 3 种字符集编码：UTF8、“ISO-8859-1=Win 1252=ANSI”以及没有字符集规范的 HTML4，即。 htmlencoded &Aring; 在内容中键入字符。

如果我需要编写一个 PHP 页面来进行转换，那也没关系。无论是最少的代码/时间。

【问题讨论】：

标签： delphi character-encoding synapse

【解决方案1】：

当您检索网页时，它的 Content-Type 标头（或者有时 HTML 本身内部的 <meta> 标记）会告诉您哪个字符集用于数据。您可以使用该字符集将数据解码为 Unicode，然后您可以将 Unicode 编码为处理所需的任何内容。

【讨论】：

谢谢。问题是 Synapse 是否会这样做，或者我是否需要编写其他代码。一般是怎么做的？
@Henrik：我上次检查过，Synapse 不会自动解码数据。您必须自己检查 HTTP 标头和/或 HTML 内容，然后手动解码数据。 FWIW，当前版本的 Indy 10 会为您进行解析和解码。

【解决方案2】：

我改为在使用 GpTextStream 检索 HTML 后直接进行反向转换。使文档符合 ISO-8859-1 使得它们可以直接使用 Delphi 进行处理，这节省了相当多的代码更改。输出时，所有数据都转换为 UTF-8 :)

这里有一些代码。也许不是最漂亮的解决方案，但它确实可以在更短的时间内完成工作。请注意，这是用于反向转换。

procedure UTF8FileTo88591(fileName: string);
const bufsize=1024*1024;
var
fs1,fs2: TFileStream;
ts1,ts2: TGpTextStream;
buf:PChar;
siz:integer;
    procedure LG2(ss:string);
    begin
        //dont log for now.
    end;

begin
    fs1 := TFileStream.Create(fileName,fmOpenRead);
    fs2 := TFileStream.Create(fileName+'_ISO88591.txt',fmCreate);
    //compatible enough for my purposes with default 'Windows/Notepad' CP 1252 ANSI and Swe ANSI codepage, Latin1 etc.
    //also works for ASCII sources with htmlencoded accent chars, naturally
    try
      LG2('Files opened OK.');
      GetMem(buf,bufsize);
      ts1 := TGpTextStream.Create(fs1,tsaccRead,[],CP_UTF8);
      ts2 := TGpTextStream.Create(fs2,tsaccWrite,[],ISO_8859_1);
      try
        siz:=ts1.Read(buf^,bufsize);
        LG2(inttostr(siz)+' bytes read.');
        if siz>0 then ts2.Write(buf^,siz);
      finally
        LG2('Bytes read and written OK.');
      FreeAndNil(ts1);FreeAndNil(ts2);end;
    finally FreeAndNil(fs1);FreeAndNil(fs2);FreeMem(buf);
        LG2('Everything freed OK.');
    end;
end; // UTF8FileTo88591

【讨论】：