关于浮点数的取值范围以及精度的问题

冷暖自知 提交于 2019-11-28 19:58:05

根据最广泛采用的IEEE754标准规定,float数据类型长度为32位,其中最高位为符号位,中间8位为指数位,最后23位作为尾数位。因此float可以指示的范围(-3.4E+38)~(3.4E+38),这样的数值范围已经很大了基本能够满足我们的需要了,但是有一个问题就是精度的问题,23位的尾数能表示的最大范围是2^23−1=8388607,因此float数的十进制精度只有6-7位,所以在使用的时候要关注其精度。

同理double的尾数由23位扩展到52位,阶码由8位增加到了11位,计算方法不变。其指示范围为-1.7E+308~1.7E+308,其精度则为2^52-1=4503599627370495,为16位,最低可以保证有15位的精度。

标签
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!