gtest的浮点数比较断言

关于浮点数的比较,我们知道不能直接用==比较,除此之外,有比较绝对误差和相对误差以及转换为整数比较,

http://www.cygnus-software.com/papers/comparingfloats/comparingfloats.htm对浮点数的比较写得很详细。

gtest使用的是将sign-and-magnitude representation 转为biased repesentation,然后再进行比较,而不是使用二进制补码的方式进行比较,这样可以不用管浮点数里的指数段表示法。

关于这几种表示方法,可以在http://en.wikipedia.org/wiki/Signed_number_representations找到更多信息。

相关文章:

  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2021-08-20
  • 2021-06-02
  • 2022-12-23
  • 2021-09-08
  • 2022-02-09
猜你喜欢
  • 2022-02-04
  • 2021-09-26
  • 2021-11-17
  • 2022-12-23
  • 2021-07-10
相关资源
相似解决方案