浮点数运算

余生颓废 提交于 2020-01-19 11:55:59

浮点数运算的公式
N = M*Re
N代表浮点数 M代表尾数 R代表基数 e代表指数
所谓浮点数就是类似我们高中学的科学计数法
比如 1000 就表示为 1.0 * 103
那么浮点型计算就是两个用科学计数法表示的数之间进行的计算
例如 1.0 * 102 + 1.19 * 103 该如何计算
步骤:1. 对阶 所谓对阶就是让指数一致,因为如果指数不同就无法对尾数进行
相应的操作,所以对应的操作就是将1.0 * 102 化成0.1 * 103 这个时候再对
尾数进行加减,但是有一个问题,为什么不能把1.19 * 103化成11.90 * 102
理由就是如果我们这样转化到最后还是要转化回1.多少的形式。意思就是小数点左边不能多余两位。
步骤:2.尾数计算 对尾数进行
步骤:3.结果格式化 假如尾数计算的结果出现0.18 * 103这种情况 就需要将结果变成1.8 * 102类似

标签
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!