在计算byte类型的取值范围时,无意中发现一条数据公式。

首先我们知道byte类型在内存中占1个字节,而一个字节占8bit,它在内存中的存储方式如下,

符号位 指数位
1 7

 

 

所以最大值为 1111111(2进制),

亮点就在这,在转为10进制的过程,我首先凭经验,判断出这个10进制的值为2的7次方 减1。

但根据2进制转10进制的规则,1111111(2进制)这个值,从0位开始,最高为6次方。

实际最大值的计算过程为 1*2的6次方+1*2的5次方+……+1*2的0次方。即127。

而2的8次为128。由此猜想,2的n次方=2的(n次方-1) + 2的2的(n次方-2)+……+2的0次方-1 

再次计算2的5次方 ,进行验证,果然还是这个结果。

 

相关文章:

  • 2022-01-24
  • 2021-11-27
  • 2021-12-19
  • 2021-09-26
  • 2021-07-19
  • 2021-09-03
  • 2022-12-23
猜你喜欢
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2021-08-16
  • 2021-06-15
  • 2022-12-23
  • 2022-12-23
相关资源
相似解决方案