欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

浮点数的理解

程序员文章站 2022-06-20 12:15:43
...

浮点数表示的简述(主要就两点)

1.数学中的实数在数轴上是一 一对应的,但是如何用机器实现?
2.浮点数的表示会出现什么问题?

  浮点数机器表示的实数,实质上是一种近似的表示(计算机用1来近似的代替63/64)。这个模型就是为了精确浮点数的近似值,下面来看他的如何实现。

浮点数的理解

模板的具体的实现带来了两个问题

一是:尾数的基值大小的确定影响的浮点数的精确值(这里讨论的是尾数采用什么样的进制,基于规格化数的讨论);
 浮点数尾数的基:就是尾数所选择的进制,
 m=log2[rm]表示所用的二进制的计算机位数

浮点数的理解

二是:同时溢出也是要考虑的问题(这里研究下溢的问题)
1.截断法:将尾数超出部分舍去。
2.舍入法:类似四舍五入,将计算机规定的字长之外另外设一个附加位,进行下溢处理时,将附加为加1。
3.恒置‘1‘法:将计算机运算规定的字长的最低位恒置为’1‘,意思就是只要下溢了,就说明有数,就加1。
4.查表法:不解释。

下面是四种方法的实现结果的比较:

浮点数的理解