Windows 计算器显示奇怪的输出

Question

在 Windows 上尝试

脚步：

1. 直接打开计算器或在运行中输入 calc。
2. 然后输入 4 并取平方根“sqrt”
3. 无论您得到多少（理想情况下您会得到 2！），都从中减去 2。

现在我的问题是，这在数学上正确吗？

Answer 1

理想情况下是错误的，但是浮点数在计算机内部的表示方式会导致这种意外的答案。

如果你查看答案的数值，它非常接近 0，这就是预期的答案。

Answer 2

不，从数学上来说这不正确。2-2 = 0 :)

Calc 给出的是 -0.00000000000000000001，这意味着 sqrt 函数得出了一个数字很接近为 2，但为了便于显示，将一些小数部分四舍五入。减去 2 后，得到一个非常接近 0 但不完全接近 0 的数字。

这是计算机中浮点数存储方式的产物。每个（非符号）计算器都会出现一些问题，导致出现类似这样的错误结果。例如，尝试 (sqrt(pi))^2-pi，它应该是 0。我刚刚在这个在线计算器得到 -1.3691388027。

Answer 3

它给予-8.1648465955514287168521180122928e-39

它基本上 = 0，因为它有 10^-39......