自定义排序函数中的堆溢出

Question

您好，我在处理对整数数组进行 lex 排序的简单程序时遇到了困难

（此处为完整程序：https://pastebin.com/UMqEP62n）

在足够大的整数向量上运行排序会导致随机数出现在数组中，然后取决于导致段错误的数据。

sort(nums.begin(), nums.end(), lex_compare);

比较函数：

bool lex_compare(const int &a, const int &b) {
    int ap = a, bp = b;
    vector<int> da, db;

    if (ap == 0) da.insert(da.begin(), ap%10);
    while (ap > 0) {
        da.insert(da.begin(), ap%10);
        ap /= 10;
    }
    if (bp == 0) db.insert(db.begin(), bp%10);
    while (bp > 0) {
        db.insert(db.begin(), bp%10);
        bp /= 10;
    }
    size_t size;
    if (da.size() < db.size()) {
        size = da.size();
    } else {
        size = db.size();
    }

    for (size_t i = 0; i < size; ++i)
        if (da[i] > db[i])
            return true;
        else if (da[i] < db[i])
            return false;
        else
            continue;

    if (da.size() > db.size())
        return false;
    else
        return true;
}

基本上，当数组太长时，由于堆缓冲区溢出，内存损坏就会出现。使用地址消毒器编译时显示：

==4097==ERROR: AddressSanitizer: heap-buffer-overflow on address 0x6140000001d0 at pc 0x00010aa396fe bp 0x7ffee51c5c50 sp 0x7ffee51c5c48
READ of size 4 at 0x6140000001d0 thread T0
#0 0x10aa396fd in lex_compare(int const&, int const&) main.cpp:8  

这实际上是 lex_compare 函数的第一行：

int ap = a, bp = b;

我无法找出导致这种行为的错误类型？是因为比较功能的大小吗？还是我有一些明显的内存读取错误？我使用 clang 4.2.1，但其他平台也会导致相同的行为，所以我认为排序功能存在根本性问题。

Answer 1

您的问题是您违反了传递给std::sort 的比较函数必须遵循的compare requirement。

比较要求要求 If comp(a,b)==true then comp(b,a)==false 但您的比较函数不这样做。例如，如果 a = 0 和 b = 0 则 comp(a, b) 会将您带到

if (da.size() > db.size())
    return false;
else
    return true;

你比较功能的一部分。由于大小相等，它返回true。当我们翻转它并评估 comp(b, a) 时，我们会到达同一个块，并会再次返回 true。

当a == b 时你需要返回false 而你不这样做。