【问题标题】:Find First Specific Byte in a Byte[] Array c#在 Byte[] 数组 c# 中查找第一个特定字节
【发布时间】:2010-11-01 18:32:17
【问题描述】:

我有一个字节数组并希望找到特定字节的第一次出现(如果有的话)。

你们能帮我用一个漂亮、优雅和高效的方法吗?

 /// Summary
/// Finds the first occurance of a specific byte in a byte array.
/// If not found, returns -1.
public int GetFirstOccurance(byte byteToFind, byte[] byteArray)
{

}

【问题讨论】:

    标签: c# design-patterns bytearray search


    【解决方案1】:
    public static int GetFirstOccurance(byte byteToFind, byte[] byteArray)
    {
       return Array.IndexOf(byteArray,byteToFind);
    }
    

    如果没有找到它会返回-1

    或者正如 Sam 指出的,一种扩展方法:

    public static int GetFirstOccurance(this byte[] byteArray, byte byteToFind)
    {
       return Array.IndexOf(byteArray,byteToFind);
    }
    

    或者让它通用:

    public static int GetFirstOccurance<T>(this T[] array, T element)
    {
       return Array.IndexOf(array,element);
    }
    

    那么你可以说:

    int firstIndex = byteArray.GetFirstOccurance(byteValue);
    

    【讨论】:

    • 你可以把它变成一个静态方法!
    • 扩展方法,但仅限于 C# 3.0
    • 为标准库函数创建包装器有什么意义?这只会使代码更难阅读,因为您必须查找自定义函数的定义。尤其是像这样毫无意义的包装,里面藏着一些意想不到的东西。
    【解决方案2】:

    【讨论】:

      【解决方案3】:

      既然你提到了效率,下面是我编写的一些高度优化的 C# 代码,它使用本机寻址和最大 qword-aligned 读取来将内存访问次数减少 8 倍。我如果在 .NET 中有任何更快的方法来扫描内存中的字节,将会感到惊讶。

      这将返回在内存范围内第一次出现字节“v”的索引,从偏移量i(相对于地址src)开始,一直持续到长度c .如果未找到字节 v,则返回 -1

      // fast IndexOf byte in memory. (To use this with managed byte[] array, see below)
      public unsafe static int IndexOfByte(byte* src, byte v, int i, int c)
      {
          ulong t;
          byte* p, pEnd;
      
          for (p = src + i; ((long)p & 7) != 0; c--, p++)
              if (c == 0)
                  return -1;
              else if (*p == v)
                  return (int)(p - src);
      
          ulong r = v; r |= r << 8; r |= r << 16; r |= r << 32;
      
          for (pEnd = p + (c & ~7); p < pEnd; p += 8)
          {
              t = *(ulong*)p ^ r;
              t = (t - 0x0101010101010101) & ~t & 0x8080808080808080;
              if (t != 0)
              {
                  t &= (ulong)-(long)t;
                  return (int)(p - src) + dbj8[t * 0x07EDD5E59A4E28C2 >> 58];
              }
          }
      
          for (pEnd += c & 7; p < pEnd; p++)
              if (*p == v)
                  return (int)(p - src);
      
          return -1;
      }
      

      不要被你看到的一个乘法吓到;每次调用此函数最多只执行一次,以执行最终的deBruijn lookup。用于此的只读查找表是一个简单的 64 字节值共享列表,需要一次性初始化:

      // elsewhere in the static class...
      
      readonly static sbyte[] dbj8 =
      {
           7, -1, -1, -1, -1,  5, -1, -1, -1,  4, -1, -1, -1, -1, -1, -1,
          -1, -1, -1, -1, -1, -1, -1, -1,  6, -1, -1, -1, -1, -1, -1, -1,
          -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1,
          -1, -1, -1,  3, -1, -1, -1, -1, -1, -1,  1, -1,  2,  0, -1, -1,
      };
      

      -1 值永远不会被访问,如果需要,可以将其保留为零,如果您愿意,如下面的表初始化代码的替代方案所示:

      static MyStaticClass()
      {
          dbj8 = new sbyte[64];  // initialize the lookup table (alternative to the above)
          dbj8[0x00] = 7;
          dbj8[0x18] = 6;
          dbj8[0x05] = 5;
          dbj8[0x09] = 4;
          dbj8[0x33] = 3;
          dbj8[0x3C] = 2;
          dbj8[0x3A] = 1;
       /* dbj8[0x3D] = 0; */
      }
      
      readonly static sbyte[] dbj8, dbj16;
      

      为了完整起见,这里是如何使用原始问题中OP提供的方法原型的函数。

      /// Finds the first occurrence of a specific byte in a byte array.
      /// If not found, returns -1.
      public static unsafe int GetFirstOccurance(byte byteToFind, byte[] byteArray)
      {
          fixed (byte* p = byteArray)
              return IndexOfByte(p, byteToFind, 0, byteArray.Length);
      }
      

      讨论
      我的代码有点复杂,所以详细的检查留给感兴趣的读者作为练习。您可以在 .NET 内部方法 Buffer.IndexOfByte 中研究对成组内存搜索的一般方法的另一种看法,但与我的代码相比,该代码具有明显的缺点:

      • 最重要的是,.NET 代码一次只扫描 4 个字节,而不是我的 8 个字节。
      • 这是一个非公共方法,因此您需要使用反射来调用它。
      • .NET 代码存在“性能泄漏”,其中t1 != 0 检查给出误报,随后的四个检查被浪费了。请注意他们的“失败”案例:由于这种误报,他们需要四次最终检查——从而允许失败——以保持正确性,而不是仅仅三个。
      • .NET 代码的误报是由基于进位位从一个字节到下一个字节的溢出的固有劣质按位计算引起的。这会导致two's complement 不对称(通过使用常量0x7efefeff0x81010100 来证明)和关于最高有效字节的信息偶尔“左向出口”(即丢失),这是真正的问题这里。相比之下,我使用 underflow 计算来保持每个字节的计算独立于其邻居。我的方法在所有情况下都给出了结论性的结果,没有误报或“失败”处理。
      • 我的代码使用branchless technique 进行最终查找。通常认为少数非分支逻辑操作(在这种情况下加上一个乘法)比扩展的if-else 结构更利于性能,因为后者可能会破坏CPU predictive caching。这个问题对于我的 8 字节扫描器来说更为重要,因为与 4 字节的成组扫描器相比,如果不使用查找,我在最终检查中的if-else 条件会是两倍。

      当然,如果您不关心所有这些细节,您可以复制并使用代码;我已经对它进行了非常详尽的单元测试,并验证了所有格式正确的输入的正确行为。因此,当核心功能可以使用时,您可能需要添加参数检查。


      [编辑:]

      String.IndexOf(String s, Char char, int ix_start, int count) ... 快!

      由于上述方法在我的项目中非常成功,我将其扩展为涵盖 16 位搜索。这是适用于搜索 16 位 short、ushort 或 char 原语而不是 byte 的相同代码。这种改编的方法也独立验证了它自己从上面改编的各自的单元测试方法。

      static MyStaticClass()
      {
          dbj16 = new sbyte[64];
       /* dbj16[0x3A] = 0; */
          dbj16[0x33] = 1;
          dbj16[0x05] = 2;
          dbj16[0x00] = 3;
      }
      readonly static sbyte[] dbj16;
      
      public static int IndexOf(ushort* src, ushort v, int i, int c)
      {
          ulong t;
          ushort* p, pEnd;
      
          for (p = src + i; ((long)p & 7) != 0; c--, p++)
              if (c == 0)
                  return -1;
              else if (*p == v)
                  return (int)(p - src);
      
          ulong r = ((ulong)v << 16) | v;
          r |= r << 32;
      
          for (pEnd = p + (c & ~7); p < pEnd; p += 4)
          {
              t = *(ulong*)p ^ r;
              t = (t - 0x0001000100010001) & ~t & 0x8000800080008000;
              if (t != 0)
              {
                  i = dbj16[(t & (ulong)-(long)t) * 0x07EDD5E59A4E28C2 >> 58];
                  return (int)(p - src) + i;
              }
          }
      
          for (pEnd += c & 7; p < pEnd; p++)
              if (*p == v)
                  return (int)(p - src);
      
          return -1;
      }
      

      下面是用于访问剩余 16 位原语的各种重载,以及 String(显示的最后一个):

      public static int IndexOf(this char[] rg, char v) => IndexOf(rg, v, 0, rg.Length);
      public static int IndexOf(this char[] rg, char v, int i, int c = -1)
      {
          if (rg != null && (c = c < 0 ? rg.Length - i : c) > 0)
              fixed (char* p = rg)
                  return IndexOf((ushort*)p, v, i, c < 0 ? rg.Length - i : c);
          return -1;
      }
      
      public static int IndexOf(this short[] rg, short v) => IndexOf(rg, v, 0, rg.Length);
      public static int IndexOf(this short[] rg, short v, int i, int c = -1)
      {
          if (rg != null && (c = c < 0 ? rg.Length - i : c) > 0)
              fixed (short* p = rg)
                  return IndexOf((ushort*)p, (ushort)v, i, c < 0 ? rg.Length - i : c);
          return -1;
      }
      
      public static int IndexOf(this ushort[] rg, ushort v) => IndexOf(rg, v, 0, rg.Length);
      public static int IndexOf(this ushort[] rg, ushort v, int i, int c = -1)
      {
          if (rg != null && (c = c < 0 ? rg.Length - i : c) > 0)
              fixed (ushort* p = rg)
                  return IndexOf(p, v, i, c < 0 ? rg.Length - i : c);
          return -1;
      }
      public static int IndexOf(String s, Char ch, int i = 0, int c = -1)
      {
          if (s != null && (c = c < 0 ? s.Length - i : c) > 0)
              fixed (char* p = s)
                  return IndexOf((ushort*)p, ch, i, c);
          return -1;
      }
      

      请注意,String 重载未标记为扩展方法,因为此函数的高性能替换版本永远不会以这种方式调用(具有相同名称的内置方法始终优先于扩展方法)。要将其用作String 实例的扩展,您可以更改此方法的名称。例如,IndexOf__(this String s,...) 会使其出现在Intellisense 列表中内置方法名称 的旁边,这可能有助于提醒您选择加入。否则,如果你不需要扩展语法,你可以确保在你想使用它而不是s.IndexOf(Char ch)时,直接调用这个优化版本作为它自己类的静态方法。

      【讨论】:

      • 哇,答案很长。但至少您可能会提供与其他基准相比的基准结果,以证明您的陈述。它也会得到更多的关注。
      • 哇太棒了,有没有关于这背后想法的文档?
      猜你喜欢
      • 2014-02-15
      • 2019-06-15
      • 2011-12-20
      • 1970-01-01
      • 2019-11-17
      • 1970-01-01
      • 2013-04-11
      • 1970-01-01
      相关资源
      最近更新 更多