浮点数的存储格式:IEEE754-64bit
64位组成格式为:S(1位符号位) E(11位阶码)M(52位尾数)
- 符号位:决定正负,0位正,1位负
- 阶码:指数位则为阶码-1023,决定了数值的大小
- 尾数:有效数字,决定了精度
- 用科学计数法格式则为:(-1^(符号位0/1)) * 1.xxxxx(尾数位) * 2^(指数位)
需要记住的IEEE754规范有:
- 尾数位:有效数字的第一位必定是1,所以这个1不会被储存,也就是说实际上尾数位52+1,类似1.xxx第一位就是1。
- 阶码:不存在负值,那怎么表示负指数呢?就是减去一个固定值;其值就是1023,也就是偏移量1023;除去全是1和全是0的情况,那么指数位的范围则是[(1-1023),(2046-1023)] == [-1022,1023]。
- 当阶码全位0,尾数全为0时,采取非规格化,两者不包含隐含的1,用来表示0。
- 最简单的精度算法就是:2^53是16位十进制,所以15位肯定能精确处理。
- 当然还有很多,有兴趣可以自行查阅一下。
知道了这些,就能更好的理解一些数值的由来:
Number.MAX_VALUE = 1.7976931348623157e+308;尾数:1.xxx1,后面为52个1,要得到最大值,我们就需要把小数点往后移,就靠指数1023-52,剩余971; 因此最大值等价于((Math.pow(2,53)-1)*Math.pow(2,971))复制代码
Number.MIN_VALUE =5e-324; 尾数:1.xxxx1,后面第52位为1,其余为0,这时首位的1需要隐藏,这时候就是负了52位,在加上2^-1022,等价于((Math.pow(2,-52))*Math.pow(2,-1022))复制代码
Number.MAX_SAFE_INTEGER = 9007199254740991;安全数就是能够精确处理的,精度靠尾数决定,那我们来看当1.1111...1,小数点后接52个1,这是精度最大显示,要取其最大值那就是向指数借52位,所以最大安全数就等于Math.pow(2,53)-1同理Number.MIN_SAFE_INTEGER = -9007199254740991;对最大安全数添加负号即可复制代码
重点0.1 + 0.2 怎么计算的呢?
首先,0.1转二进制 :0.0 001100110011001100110011..0011 0011,改写为科学计数法表示:1.100110011...0011(0011)*2^-4,尾数位为52为需要取舍括号中最后一位舍去进1,指数为-4,那个阶码就是-4+1023=1019,最终浮点数格式:0-01111111011-1001100110011001100110011001100110011001100110011010复制代码
同理0.2可以表示为:0-01111111100-1001100110011001100110011001100110011001100110011010复制代码
最后两者相加结果为:0-01111111101-0011001100110011001100110011001100110011001100110100,指数位为-2,1.00110011001100110011001100110011001100110011001101(00)*2^-2所以二进制表示:0.0100110011001100110011001100110011001100110011001101(00),那么转为十进制就是0.1 + 0.2 = 0.30000000000000004 != 0.3 复制代码