[经验] 【安富莱——DSP教程】第7章 DSP定点数和浮点数（重要）

我会带着你远行 2022-05-16 02:48 301阅读 0赞

<table> 
 <tbody> 
 <tr> 
 <td style="background-color:#ffffff;vertical-align:top;"> 
 <table style="width:685.556px;"> 
 <tbody> 
 <tr> 
 <td> <a href="http://bbs.elecfans.com/jishu_486119_1_1.html" rel="nofollow">http://bbs.elecfans.com/jishu_486119_1_1.html</a> &nbsp; 7.1&nbsp;&nbsp;定点数和浮点数概念 &nbsp; &nbsp; 如果小数点的位置事先已有约定，不再改变，此类数称为“定点数”。相比之下，如果小数点的位置可变，则称为“浮点数”（定点数的本质是小数，整数只是其表现形式）。 7.1.1&nbsp;&nbsp;定点数 &nbsp; &nbsp; 常用的定点数有两种表示形式：如果小数点位置约定在最低数值位的后面，则该数只能是定点整数；如果小数点位置约定在最高数值位的前面，则该数只能是定点小数。 7.1.2&nbsp;&nbsp;浮点数 &nbsp; &nbsp; 在计算机系统的发展过程中，曾经提出过多种方法表达实数。典型的比如相对于浮点数的定点数（Fixed Point Number）。在这种表达方式中，小数点固定的位于实数所有数字中间的某个位置。货币的表达就可以使用这种方式，比如 99.00 或者 00.99 可以用于表达具有四位精度（Precision），小数点后有两位的货币值。由于小数点位置固定，所以可以直接用四位数值来表达相应的数值。SQL 中的 NUMBER 数据类型就是利用定点数来定义的。还有一种提议的表达方式为有理数表达方式，即用两个整数的比值来表达实数。 &nbsp; &nbsp; 定点数表达法的缺点在于其形式过于僵硬，固定的小数点位置决定了固定位数的整数部分和小数部分，不利于同时表达特别大的数或者特别小的数。最终，绝大多数现代的计算机系统采纳了所谓的浮点数表达方式。这种表达方式利用科学计数法来表达实数，即用一个尾数（Mantissa ），一个基数（Base），一个指数（Exponent）以及一个表示正负的符号来表达实数。比如 123.45 用十进制科学计数法可以表达为 1.2345 × 102，其中 1.2345 为尾数，10 为基数，2 为指数。浮点数利用指数达到了浮动小数点的效果，从而可以灵活地表达更大范围的实数。 &nbsp; &nbsp;&nbsp;提示: 尾数有时也称为有效数字（Significand）。尾数实际上是有效数字的非正式说法。 &nbsp; &nbsp; 同样的数值可以有多种浮点数表达方式，比如上面例子中的 123.45 可以表达为 12.345 × 101，0.12345 × 103 或者 1.2345 × 102。因为这种多样性，有必要对其加以规范化以达到统一表达的目标。规范的（Normalized）浮点数表达方式具有如下形式： &nbsp; &nbsp; ±d.dd...d× βe, (0 ≤ d i &lt; β) &nbsp; &nbsp; 其中 d.dd...d 即尾数，β 为基数，e 为指数。尾数中数字的个数称为精度，在本文中用 p 来表示。每个数字 d 介于 0 和基数之间，包括 0。小数点左侧的数字不为 0。 &nbsp; &nbsp; 基于规范表达的浮点数对应的具体值可由下面的表达式计算而得： &nbsp; &nbsp; ±(d0+ d 1β-1+ ... + dp-1β-(p-1))βe,(0 ≤ d i &lt; β) &nbsp; &nbsp; 对于十进制的浮点数，即基数 β 等于 10 的浮点数而言，上面的表达式非常容易理解，也很直白。计算机内部的数值表达是基于二进制的。从上面的表达式，我们可以知道，二进制数同样可以有小数点，也同样具有类似于十进制的表达方式。只是此时 β 等于 2，而每个数字 d 只能在 0 和 1 之间取值。比如二进制数1001.101 相当于 1 × 23 + 0 × 22 + 0× 21 + 1 × 20 + 1 × 2-1 + 0 × 2-2 +1 × 2-3，对应于十进制的 9.625。其规范浮点数表达为 1.001101 × 23。 </td> 
 </tr> 
 </tbody> 
 </table></td> 
 </tr> 
 <tr> 
 <td style="background-color:#ffffff;vertical-align:top;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="background-color:#ffffff;vertical-align:top;"><a rel="nofollow"><img alt="" src="http://bbs.elecfans.com/template/elecfans_201805/images/zl_icon/zan.png" width="16">赞</a><a rel="nofollow"><img alt="" src="http://bbs.elecfans.com/template/elecfans_201805/images/u138.png" width="17">回复</a> 举报 </td> 
 </tr> 
 <tr> 
 <td style="background-color:#ffffff;vertical-align:top;width:667.778px;">&nbsp;</td> 
 </tr> 
 </tbody> 
</table>

<table> 
 <tbody> 
 <tr> 
 <td style="background-color:#ffffff;vertical-align:top;"><a href="http://bbs.elecfans.com/user/1678360/" rel="nofollow"><img alt="" src="http://bbs.elecfans.com/uc_server/data/avatar/001/67/83/60_avatar_middle.jpg" width="32"></a> <a href="http://bbs.elecfans.com/user/1678360/" rel="nofollow">硬汉Eric2013</a>&nbsp;2015-6-3 11:57:42 <a href="http://bbs.elecfans.com/forum.php?mod=redirect&amp;goto=findpost&amp;ptid=486119&amp;pid=3604209" rel="nofollow">板凳</a> 
 <table style="width:685.556px;"> 
 <tbody> 
 <tr> 
 <td>7.2&nbsp; &nbsp;IEEE浮点数 &nbsp; &nbsp; 说明：Cortex-M4F中的FPU（浮点单元）就是用的这个IEEE 754标准，初学的要认真学习。 &nbsp; &nbsp; IEEE二进制浮点数算术标准（IEEE 754）是20世纪80年代以来最广泛使用的浮点数运算标准，为许多CPU与浮点运算器所采用。这个标准定义了表示浮点数的格式（包括负零-0）与反常值（denormal number）），一些特殊数值（无穷（Inf）与非数值（NaN）），以及这些数值的“浮点数运算符”；它也指明了四种数值舍入规则和五种例外状况（包括例外发生的时机与处理方式）。 &nbsp; &nbsp; IEEE 754规定了四种表示浮点数值的方式：单精确度（32位）、双精确度（64位）、延伸单精确度（43比特以上，很少使用）与延伸双精确度（79比特以上，通常以80比特实做）。只有32位模式有强制要求，其他都是选择性的。大部分编程语言都有提供IEEE浮点数格式与算术，但有些将其列为非必需的。例如，IEEE 754问世之前就有的C语言，现在有包括IEEE算术，但不算作强制要求（C语言的float通常是指IEEE单精确度，而double是指双精确度）。 &nbsp; &nbsp; 该标准的全称为IEEE二进制浮点数算术标准（ANSI/IEEEStd 754-1985），又称IEC 60559:1989，微处理器系统的二进制浮点数算术（本来的编号是IEC 559:1989）。后来还有“与基数无关的浮点数”的“IEEE 854-1987标准”，有规定基数为2跟10的状况。现在最新标准是“IEEE854-2008标准”。 &nbsp; &nbsp; 在六、七十年代，各家计算机公司的各个型号的计算机，有着千差万别的浮点数表示，却没有一个业界通用的标准。这给数据交换、计算机协同工作造成了极大不便。IEEE的浮点数专业小组于七十年代末期开始酝酿浮点数的标准。在1980年，英特尔公司就推出了单片的8087浮点数协处理器，其浮点数表示法及定义的运算具有足够的合理性、先进性，被IEEE采用作为浮点数的标准，于1985年发布。而在此前，这一标准的内容已在八十年代初期被各计算机公司广泛采用，成了事实上的业界工业标准。 &nbsp; &nbsp; 在 IEEE 标准中，浮点数是将特定长度的连续字节的所有二进制位分割为特定宽度的符号域，指数域和尾数域三个域，其中保存的值分别用于表示给定二进制浮点数中的符号，指数和尾数。这样，通过尾数和可以调节的指数（所以称为"浮点"）就可以表达给定的数值了。具体的格式参见下面的图例： <img alt="" src="http://bbs.elecfans.com/data/attachment/forum/201506/03/115353k5yly7er5al4ayeu.png.thumb.jpg">l&nbsp;&nbsp;在上面的图例中，第一个域为符号域。其中 0 表示数值为正数，而 1 则表示负数。 l&nbsp;&nbsp;第二个域为指数域。其中单精度数为 8 位，双精度数为 11 位。以单精度数为例，8 位的指数为可以表达 0 到 255 之间的 255 个指数值。但是，指数可以为正数，也可以为负数。 &nbsp; &nbsp; 为了处理负指数的情况，实际的指数值按要求需要加上一个偏差（Bias）值作为保存在指数域中的值，单精度数的偏差值为 127，而双精度数的偏差值为 1023。比如，单精度的实际指数值 0 在指数域中将保存为127；而保存在指数域中的 64 则表示实际的指数值 -63。 偏差的引入使得对于单精度数，实际可以表达的指数值的范围就变成 -127 到 128 之间（包含两端）。我们不久还将看到，实际的指数值 -127（保存为全 0）以及+128（保存为全 1）保留用作特殊值的处理。这样，实际可以表达的有效指数范围就在 -127 和 127 之间。在本文中，最小指数和最大指数分别用 emin 和 emax 来表达。 l&nbsp;&nbsp;图例中的第三个域为尾数域，其中单精度数为 23 位长，双精度数为 52 位长。除了我们将要讲到的某些特殊值外，IEEE 标准要求浮点数必须是规范的。这意味着尾数的小数点左侧必须为 1，因此我们在保存尾数的时候，可以省略小数点前面这个 1，从而腾出一个二进制位来保存更多的尾数。这样我们实际上用 23 位长的尾数域表达了 24 位的尾数。比如： &nbsp; &nbsp;&nbsp; &nbsp;对于单精度数而言，二进制的 1001.101（对应于十进制的 9.625）可以表达为 1.001101 × 23，所以实际保存在尾数域中的值为 0011 0100 0000 000 0000 0000，即去掉小数点左侧的 1，并用 0 在右侧补齐。 &nbsp; &nbsp;&nbsp; &nbsp;值得注意的是，对于单精度数，由于我们只有 24 位的指数（其中一位隐藏），所以可以表达的最大指数为 224 - 1 = 16,777,215。特别的，16,777,216是偶数，所以我们可以通过将它除以 2 并相应地调整指数来保存这个数，这样 16,777,216 同样可以被精确的保存。相反，数值 16,777,217 则无法被精确的保存。由此，我们可以看到单精度的浮点数可以表达的十进制数值中，真正有效的数字不高于 8 位。事实上，对相对误差的数值分析结果显示有效的精度大约为 7.22 位。参考下面的示 &nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp;&nbsp;例： &nbsp; &nbsp;&nbsp;&nbsp;&nbsp;truevalue&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;stored value &nbsp; &nbsp;&nbsp; &nbsp;-------------------------------------- &nbsp; &nbsp;&nbsp; &nbsp;16,777,215&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.6777215E7 &nbsp; &nbsp;&nbsp; &nbsp;16,777,216&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.6777216E7 &nbsp; &nbsp;&nbsp; &nbsp;16,777,217&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.6777216E7 &nbsp; &nbsp;&nbsp; &nbsp;16,777,218&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.6777218E7 &nbsp; &nbsp;&nbsp; &nbsp;16,777,219&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.677722E7 &nbsp; &nbsp;&nbsp; &nbsp;16,777,220&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.677722E7 &nbsp; &nbsp;&nbsp; &nbsp;16,777,221&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.677722E7 &nbsp; &nbsp;&nbsp; &nbsp;16,777,222&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.6777222E7 &nbsp; &nbsp;&nbsp; &nbsp;16,777,223&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.6777224E7 &nbsp; &nbsp;&nbsp; &nbsp; 16,777,224&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.6777224E7 &nbsp; &nbsp;&nbsp; &nbsp;16,777,225&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;&nbsp; &nbsp;1.6777224E7 &nbsp; &nbsp;&nbsp; &nbsp;-------------------------------------- &nbsp; &nbsp; 根据标准要求，无法精确保存的值必须向最接近的可保存的值进行舍入。这有点像我们熟悉的十进制的四舍五入，即不足一半则舍，一半以上（包括一半）则进。不过对于二进制浮点数而言，还多一条规矩，就是当需要舍入的值刚好是一半时，不是简单地进，而是在前后两个等距接近的可保存的值中，取其中最后一位有效数字为零者。从上面的示例中可以看出，奇数都被舍入为偶数，且有舍有进。我们可以将这种舍入误差理解为"半位"的误差。所以，为了避免 7.22 对很多人造成的困惑，有些文章经常以 7.5 位来说明单精度浮点数的精度问题。 &nbsp; &nbsp;&nbsp; &nbsp;提示: 这里采用的浮点数舍入规则有时被称为舍入到偶数（Round to Even）。相比简单地逢一半则进的舍入规则，舍入到偶数有助于从某些角度减小计算中产生的舍入误差累积问题。因此为 IEEE 标准所采用。 7.2.1&nbsp;&nbsp;规范化浮点数 &nbsp; &nbsp; 通过前面的介绍，大家应该已经了解的浮点数的基本知识，这些知识对于一个不接触浮点数应用的人应该足够了。简单总结如下： &nbsp; &nbsp; 标准的浮点数都符都符合如下的公式： <img alt="" src="http://bbs.elecfans.com/data/attachment/forum/201506/03/115539oftt6cmkldii8tlo.png.thumb.jpg">&nbsp; &nbsp; &nbsp; &nbsp; 其中bias是固定的数值，这个在前面的已经讲解过。参数的具体范围如下 <img alt="" src="http://bbs.elecfans.com/data/attachment/forum/201506/03/115539vr7bhy5z17ybdze7.png.thumb.jpg">&nbsp; 7.2.2&nbsp;&nbsp;非规范化浮点数 &nbsp; &nbsp; 我们来考察浮点数的一个特殊情况。选择两个绝对值极小的浮点数，以单精度的二进制浮点数为例，比如1.001 × 2-125和 1.0001 ×2-125 这两个数（分别对应于十进制的 2.6448623 × 10-38和 2.4979255 ×10-38）。显然，他们都是普通的浮点数（指数为 -125，大于允许的最小值 -126；尾数更没问题），按照 IEEE 754 可以分别保存为00000001000100000000000000000000（0x1100000）和 00000001000010000000000000000000（0x1080000）。 &nbsp; &nbsp; 现在我们看看这两个浮点数的差值。不难得出，该差值为 0.0001 × 2-125，表达为规范浮点数则为 1.0 × 2-129。问题在于其指数大于允许的最小指数值，所以无法保存为规范浮点数。最终，只能近似为零（Flush to Zero）。这中特殊情况意味着下面本来十分可靠的代码也可能出现问题： &nbsp; &nbsp; if (x != y) &nbsp; &nbsp; { &nbsp; &nbsp;&nbsp; &nbsp;z = 1 / (x -y); &nbsp; &nbsp;&nbsp;&nbsp;} &nbsp; &nbsp; 正如我们精心选择的两个浮点数展现的问题一样，即使 x 不等于 y，x 和 y 的差值仍然可能绝对值过小，而近似为零，导致除以 0 的情况发生。 &nbsp; &nbsp; 为了解决此类问题，IEEE 标准中引入了非规范（Denormalized）浮点数。规定当浮点数的指数为允许的最小指数值，即 emin 时，尾数不必是规范化的。比如上面例子中的差值可以表达为非规范的浮点数0.001 × 2-126，其中指数 -126 等于 emin。注意，这里规定的是"不必"，这也就意味着"可以"。当浮点数实际的指数为 emin，且指数域也为 emin 时，该浮点数仍是规范的，也就是说，保存时隐含着一个隐藏的尾数位。为了保存非规范浮点数，IEEE 标准采用了类似处理特殊值零时所采用的办法，即用特殊的指数域值 emin - 1加以标记，当然，此时的尾数域不能为零。这样，例子中的差值可以保存为00000000000100000000000000000000（0x100000），没有隐含的尾数位。 &nbsp; &nbsp; 有了非规范浮点数，去掉了隐含的尾数位的制约，可以保存绝对值更小的浮点数。而且，也由于不再受到隐含尾数域的制约，上述关于极小差值的问题也不存在了，因为所有可以保存的浮点数之间的差值同样可以保存。 7.2.3&nbsp;&nbsp;有符号的零 &nbsp; &nbsp; 因为 IEEE 标准的浮点数格式中，小数点左侧的1 是隐藏的，而零显然需要尾数必须是零。所以，零也就无法直接用这种格式表达而只能特殊处理。 &nbsp; &nbsp; 实际上，零保存为尾数域为全为 0，指数域为emin - 1 = -127，也就是说指数域也全为 0。考虑到符号域的作用，所以存在着两个零，即 +0 和 -0。不同于正负无穷之间是有序的，IEEE 标准规定正负零是相等的。 &nbsp; &nbsp; 零有正负之分，的确非常容易让人困惑。这一点是基于数值分析的多种考虑，经利弊权衡后形成的结果。有符号的零可以避免运算中，特别是涉及无穷的运算中，符号信息的丢失。举例而言，如果零无符号，则等式 1/(1/x) = x 当x = ±∞ 时不再成立。原因是如果零无符号，1 和正负无穷的比值为同一个零，然后 1 与 0 的比值为正无穷，符号没有了。解决这个问题，除非无穷也没有符号。但是无穷的符号表达了上溢发生在数轴的哪一侧，这个信息显然是不能不要的。零有符号也造成了其它问题，比如当 x=y 时，等式1/x = 1/y 在x 和 y 分别为 +0 和 -0 时，两端分别为正无穷和负无穷而不再成立。当然，解决这个问题的另一个思路是和无穷一样，规定零也是有序的。但是，如果零是有序的，则即使 if (x==0) 这样简单的判断也由于 x 可能是 ±0 而变得不确定了。两害取其轻者，零还是无序的好。 7.2.4&nbsp;&nbsp;无穷 &nbsp; &nbsp; 和 NaN 一样，特殊值无穷（Infinity）的指数部分同样为 emax + 1 = 128，不过无穷的尾数域必须为零。无穷用于表达计算中产生的上溢（Overflow）问题。比如两个极大的数相乘时，尽管两个操作数本身可以用保存为浮点数，但其结果可能大到无法保存为浮点数，而必须进行舍入。根据 IEEE 标准，此时不是将结果舍入为可以保存的最大的浮点数（因为这个数可能离实际的结果相差太远而毫无意义），而是将其舍入为无穷。对于负数结果也是如此，只不过此时舍入为负无穷，也就是说符号域为 1 的无穷。有了 NaN 的经验我们不难理解，特殊值无穷使得计算中发生的上溢错误不必以终止运算为结果。 &nbsp; &nbsp;&nbsp;&nbsp;无穷和除 NaN 以外的其它浮点数一样是有序的，从小到大依次为负无穷，负的有穷非零值，正负零（随后介绍），正的有穷非零值以及正无穷。除 NaN 以外的任何非零值除以零，结果都将是无穷，而符号则由作为除数的零的符号决定。 &nbsp; &nbsp; 当零除以零时得到的结果不是无穷而是 NaN 。原因不难理解，当除数和被除数都逼近于零时，其商可能为任何值，所以 IEEE 标准决定此时用 NaN 作为商比较合适。 7.2.5&nbsp;&nbsp;NaN &nbsp; &nbsp; NaN 用于处理计算中出现的错误情况，比如 0.0 除以0.0 或者求负数的平方根。由上面的表中可以看出，对于单精度浮点数，NaN 表示为指数为 emax + 1 = 128（指数域全为 1），且尾数域不等于零的浮点数。IEEE 标准没有要求具体的尾数域，所以 NaN 实际上不是一个，而是一族。不同的实现可以自由选择尾数域的值来表达 NaN。 </td> 
 </tr> 
 </tbody> 
 </table></td> 
 </tr> 
 <tr> 
 <td style="background-color:#ffffff;vertical-align:top;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="background-color:#ffffff;vertical-align:top;"><a rel="nofollow"><img alt="" src="http://bbs.elecfans.com/template/elecfans_201805/images/zl_icon/zan.png" width="16">赞</a><a rel="nofollow"><img alt="" src="http://bbs.elecfans.com/template/elecfans_201805/images/u138.png" width="17">回复</a> 举报 </td> 
 </tr> 
 <tr> 
 <td style="background-color:#ffffff;vertical-align:top;width:667.778px;">&nbsp;</td> 
 </tr> 
 </tbody> 
</table>