言成言成啊 | Kit Chen's Blog

小记编程语言浮点精度问题

发布于2024-09-15 20:21:12,更新于2024-09-17 21:17:49,标签:java  文章会持续修订,转载请注明来源地址:https://meethigher.top/blog

浮点数在计算机中不能精确表示所有的十进制小数,所以在进行运算时可能会出现微小的误差。

浮点数精度问题主要影响使用二进制浮点表示法的编程语言。大多数主流编程语言(如 Java、C、C++、Python、JavaScript 和 Ruby)都使用 IEEE 754 标准来表示浮点数,因此都会受到这一问题的影响。

直观的测试

1
2
0.14*100
0.12*100

我后面采取的方式是四舍五入保留一位小数。

1
2
3
4
5
6
7
8
9
10
11
/**
* 将传入的 double 转换为小数点后一位
*
* @param value 要转换的 double 值
* @return 转换后的小数点后一位的字符串
*/
public static double roundToOneDecimal(double value) {
BigDecimal bd = new BigDecimal(value);
BigDecimal roundedValue = bd.setScale(1, RoundingMode.HALF_UP); // 四舍五入到小数点后一位
return roundedValue.doubleValue(); // 返回字符串形式的结果
}
发布:2024-09-15 20:21:12
修改:2024-09-17 21:17:49
链接:https://meethigher.top/blog/2024/float-precision/
标签:java 
付款码 打赏 分享
Shift+Ctrl+1 可控制工具栏