浮点数也就是小数点浮动的数,但是因为在计算机中使二进制表示,不同长度有不同的精度。三种常用的浮点数的格式:半精度(float16)、单精度(float32)、双精度(float64)
  • Value=sign*exponent*fraction
  • 数值=符号位*指数位*小数位
    • 符号位表示正负
    • 指数位表示次方
    • 小数位表示精度
区别在于指数位和小数位的长度的差异;这样近似值其实也就是有理数的表示方法;

半精度表示π,最大值和最小值:

双-单-半精度浮点数的细节   双-单-半精度浮点数的细节  双-单-半精度浮点数的细节   双-单-半精度浮点数的细节
 

单精度表示π,最大值和最小值:

双-单-半精度浮点数的细节
双-单-半精度浮点数的细节
双-单-半精度浮点数的细节
双-单-半精度浮点数的细节
双-单-半精度浮点数的细节
 

双精度表示π,最大值和最小值:

双-单-半精度浮点数的细节
双-单-半精度浮点数的细节
双-单-半精度浮点数的细节
双-单-半精度浮点数的细节
双-单-半精度浮点数的细节

 

Bfloat16

最近还诞生了一种Bfloat16的计数方式,使用和半精度相同的位数,实现了保持和单精度一样的指数位也就是8位指数位,可以表示和单精度相同的数字范围,但是牺牲了小数位也就是精度。
双-单-半精度浮点数的细节 
双-单-半精度浮点数的细节
双-单-半精度浮点数的细节
 
 
参考文献:

<wiz_tmp_tag >

 
 
 
 

相关文章:

  • 2022-12-23
  • 2022-12-23
  • 2021-09-11
  • 2022-12-23
  • 2022-12-23
  • 2021-08-15
  • 2021-10-12
  • 2021-08-04
猜你喜欢
  • 2021-09-14
  • 2022-01-01
  • 2021-10-12
  • 2022-12-23
  • 2021-11-18
  • 2022-12-23
  • 2022-12-23
相关资源
相似解决方案