java 浮点类型float 和 double和BigDecimal

喜欢ヅ旅行 2024-04-17 05:40 75阅读 0赞

> 问题：amount是float 赋值会向上取整这是什么原因啊

### 现象 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMjA4MjUz_size_16_color_FFFFFF_t_70]

### 原理 ###

[菜鸟教程的详细解说][Link 1]  
[资料][Link 2]

> float 的小数位只有 23 位，即二进制的 23 位，能表示的最大的十进制数为 2 的 23 次方，即 8388608，即十进制的 7 位，严格点，精度只能百分百保证十进制的 6 位运算。  
> double的小数位有 52 位，对应十进制最大值为 4 503 599 627 370 496，这个数有 16 位，所以计算精度只能百分百保证十进制的 15 位运算。

### 实践 ###

只有7位有效数字的正常  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMjA4MjUz_size_16_color_FFFFFF_t_70 1]  
8位有效数字就出现异常了  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMjA4MjUz_size_16_color_FFFFFF_t_70 2]

### 结论 ###

> float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的，其整数部分始终是一个隐含着的“1”，由于它是不变的，故不能对精度造成影响。  
> float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字；  
> double：2^52 = 4503599627370496，一共16位，同理，double的精度为15~16位。

### 建议 ###

1.涉及金额的都改为Bigdecimal  
2.或者自己合理分析数据他到底有多少位，再去选用float或者double

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMjA4MjUz_size_16_color_FFFFFF_t_70]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/11/78aefae3fd4e4993a7bdda7cc1fc703f.png
[Link 1]: https://www.runoob.com/w3cnote/java-the-different-float-double.html
[Link 2]: http://xiaoxiaoqiang.win/2017/07/18/java/java%E4%B8%ADfloat%E5%92%8Cdouble%E7%B2%BE%E5%BA%A6%E9%97%AE%E9%A2%98/
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMjA4MjUz_size_16_color_FFFFFF_t_70 1]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/11/887a17158f2e420ba3929df821c48785.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMjA4MjUz_size_16_color_FFFFFF_t_70 2]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/11/b5c5975fa5fe4f28810652e65c6a6550.png