计算机中的浮点数和误差

浅浅的花香味﹌ 2022-09-09 12:50 195阅读 0赞

### 计算机中的浮点数和误差 ###

浮点数

1. float类型又被称为单精度类型，尾数精确到7位有效数组字；double表示这种类型的数值精度是float类型的两倍，又被称为双精度。默认是double，浮点数数值默认为double类型，要将其变为flaot类型，需要在后面增加F/f，如：3.14F

2.浮点数存在舍入误差，很多数字不能精确表示。

当浮点数做数学运算的时候，你经常会发现如下一些问题：

JavaScript 中：

![20210901103834647.png][]

python 中

![20210901103834647.png][]

C中

![watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA6L2v5Lu25oqA5pyv5a2m5Lmg5byA5Y-R54ix5aW96ICF_size_6_color_FFFFFF_t_70_g_se_x_16][]

IEEE 754标准引入的浮点数算术标准简介

![watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA6L2v5Lu25oqA5pyv5a2m5Lmg5byA5Y-R54ix5aW96ICF_size_15_color_FFFFFF_t_70_g_se_x_16][]

最高位是符号位，规定浮点数的正负；偏置指数，紧跟在符号位之后，有效数字\[公式\]在最后。

几乎所有的编程语言都采用了 IEEE-745 浮点数表示法，任何使用二进制浮点数的编程语言都会有这个问题，只不过在很多语言中已经封装好了方法来避免精度的问题。

以python为例：

![watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA6L2v5Lu25oqA5pyv5a2m5Lmg5byA5Y-R54ix5aW96ICF_size_7_color_FFFFFF_t_70_g_se_x_16][]

decimal 模块为快速正确舍入的十进制浮点运算提供支持。

[https://docs.python.org/zh-cn/3/library/decimal.html\#module-decimal][https_docs.python.org_zh-cn_3_library_decimal.html_module-decimal]

在涉及浮点数的算法中，要注意不能直接用等号判断两个浮点数是否相等，

这里已python为例：

![watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA6L2v5Lu25oqA5pyv5a2m5Lmg5byA5Y-R54ix5aW96ICF_size_13_color_FFFFFF_t_70_g_se_x_16][]

在Python的math中的isclose()方法用于确定两个浮点数的值是否接近， 如果值接近则返回True，否则返回False。要使用此功能，您必须导入数学模块math。

语法格式：

math.isclose（a，b，rel\_tol，abs\_tol）

参数             说明

a                必需的参数， 检查紧密度的第一个值

b                必需的参数， 检查紧密度的第二个值

rel\_tol=value    可选的。 相对公差。 它是值a和b之间的最大允许差。 默认值为1e-09

abs\_tol=value    可选的。最小绝对公差。它用于比较接近0的值。该值必须至少为0

[20210901103834647.png]: /images/20220829/14b8a7beaa0d471da645d8aeca1de3b4.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA6L2v5Lu25oqA5pyv5a2m5Lmg5byA5Y-R54ix5aW96ICF_size_6_color_FFFFFF_t_70_g_se_x_16]: /images/20220829/b3753495e0904c669abd48cba24c2391.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA6L2v5Lu25oqA5pyv5a2m5Lmg5byA5Y-R54ix5aW96ICF_size_15_color_FFFFFF_t_70_g_se_x_16]: /images/20220829/a42e00e8f2e24da3ba3f67df92509e80.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA6L2v5Lu25oqA5pyv5a2m5Lmg5byA5Y-R54ix5aW96ICF_size_7_color_FFFFFF_t_70_g_se_x_16]: /images/20220829/24d3307d77804e4ba887670902e7f8d5.png
[https_docs.python.org_zh-cn_3_library_decimal.html_module-decimal]: https://docs.python.org/zh-cn/3/library/decimal.html#module-decimal
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA6L2v5Lu25oqA5pyv5a2m5Lmg5byA5Y-R54ix5aW96ICF_size_13_color_FFFFFF_t_70_g_se_x_16]: /images/20220829/0e7b760bf92043c8a54682a330b8ae58.png