11、浮点数的运算
思维导图
科学技术法的运算
浮点数的运算
舍入问题
浮点数的强制类型转化
int—>float:
int : 1 + 31,尾数表示位数31位
float : 1 + 8 + 23,实际尾数表示位数:23 + 1 = 24位
所以int—>float会产生精度损失
float—>int:float表示范围更大
float : 0.0011,转int后:0,精度损失
float:阶码:01111111=127,尾数:11111…,真值:2127×(2−2−23),转int后溢出
下溢:直接置0
上溢:系统抛出异常