浮点数的理解
程序员文章站
2022-06-20 12:15:43
...
浮点数表示的简述(主要就两点)
1.数学中的实数在数轴上是一 一对应的,但是如何用机器实现?
2.浮点数的表示会出现什么问题?
浮点数机器表示的实数,实质上是一种近似的表示(计算机用1来近似的代替63/64)。这个模型就是为了精确浮点数的近似值,下面来看他的如何实现。
模板的具体的实现带来了两个问题
一是:尾数的基值大小的确定影响的浮点数的精确值(这里讨论的是尾数采用什么样的进制,基于规格化数的讨论);
浮点数尾数的基:就是尾数所选择的进制,
m=log2[rm]表示所用的二进制的计算机位数
二是:同时溢出也是要考虑的问题(这里研究下溢的问题)
1.截断法:将尾数超出部分舍去。
2.舍入法:类似四舍五入,将计算机规定的字长之外另外设一个附加位,进行下溢处理时,将附加为加1。
3.恒置‘1‘法:将计算机运算规定的字长的最低位恒置为’1‘,意思就是只要下溢了,就说明有数,就加1。
4.查表法:不解释。
下面是四种方法的实现结果的比较:
上一篇: 辅导资料 不定方程的解法