在 Excel 2007/2010 中,我遇到了这种奇怪的行为:
Formula in cell: =2.6+1.4+4.62-8.2
Result in cell: 0.420000000000002000
关于 14DP,奇怪的是多了一个“2”。有人能解释一下为什么会发生这种情况吗?
答案1
正如评论中提到的,这是不是一个错误。这是由于浮点运算不可避免的不准确性,因为可用于存储值的位数是有限的,从而导致近似表示,而您选择显示的有效位数越多,这种近似表示就越明显。
以下是一些对您有用的文章: