在Java中拆分字符串的最有效方法

Question

为了这个问题，假设我有一个String，其中包含值Two;.Three;.Four（等等），但元素由;. 分隔。

现在我知道有多种拆分字符串的方法，例如 split() 和 StringTokenizer（速度更快且效果很好），但我的输入文件大约是 1GB，我正在寻找比StringTokenizer 更有效的东西。

经过一番研究，我发现indexOf 和substring 非常有效，但示例只有单个分隔符或结果仅返回单个单词/元素。

使用indexOf 和substring 的示例代码：

String s = "quick,brown,fox,jumps,over,the,lazy,dog";
int from = s.indexOf(',');
int to = s.indexOf(',', from+1);
String brown = s.substring(from+1, to);

上面的内容适用于打印brown，但我如何使用indexOf 和substring 来分割具有多个分隔符的行并显示如下所有项目。

预期输出

Two
Three
Four
....and so on

Answer 1

这是我用于拆分大型 (1GB+) 制表符分隔文件的方法。它仅限于 char 分隔符以避免任何额外方法调用的开销（可能由运行时优化），但它可以轻松转换为字符串分隔。如果有人能提出更快的方法或对此方法进行改进，我会很感兴趣。

public static String[] split(final String line, final char delimiter)
{
    CharSequence[] temp = new CharSequence[(line.length() / 2) + 1];
    int wordCount = 0;
    int i = 0;
    int j = line.indexOf(delimiter, 0); // first substring

    while (j >= 0)
    {
        temp[wordCount++] = line.substring(i, j);
        i = j + 1;
        j = line.indexOf(delimiter, i); // rest of substrings
    }

    temp[wordCount++] = line.substring(i); // last substring

    String[] result = new String[wordCount];
    System.arraycopy(temp, 0, result, 0, wordCount);

    return result;
}

Answer 2

如果你想要极致的效率，我根本不会使用Strings，更不用说拆分它们了。我会做编译器所做的事情：一次处理文件一个字符。使用具有较大缓冲区大小（例如 128kb）的 BufferedReader，并一次读取 char，将它们累积到 StringBuilder 中，直到获得 ; 或行终止符。

Answer 3

StringTokenizer 比 StringBuilder 快。

public static void main(String[] args) {

    String str = "This is String , split by StringTokenizer, created by me";
    StringTokenizer st = new StringTokenizer(str);

    System.out.println("---- Split by space ------");
    while (st.hasMoreElements()) {
        System.out.println(st.nextElement());
    }

    System.out.println("---- Split by comma ',' ------");
    StringTokenizer st2 = new StringTokenizer(str, ",");

    while (st2.hasMoreElements()) {
        System.out.println(st2.nextElement());
    }
}