浮点数运算精度问题

来源：4-9 浮点数的加减法运算

慕后端4419857

2021-07-03

老师,您好。
计算机在计算浮点数运算时，会出现精度问题,例如js中 0.2+0.1=0.30000000000000004 这个和舍入有关系吗？

写回答

1回答

咚咚呛

2021-07-03

不是的呢，这个主要不是舍入的问题，这是精度表示的问题。在十进制的世界中，我们知道有无限循环小数，同样的，在计算机二进制的世界里也有无限循环小数，js中的这个计算结果就是二进制世界中的无限循环小数导致的。

具体可以参考下老师写的这篇文章：https://www.imooc.com/article/302141

清晰明了的解释了这个问题。

希望对你有所帮助。

（新版）计算机基础，计算机组成原理+操作系统+网络

编程之前先学这门课，系统补足计算机基础知识，夯实编程地基

7739 学习 · 1580 问题

相似问题

回答 1

回答 1

回答 1

回答 1

回答 1