![Windows 计算器显示奇怪的输出](https://linux22.com/image/1256015/Windows%20%E8%AE%A1%E7%AE%97%E5%99%A8%E6%98%BE%E7%A4%BA%E5%A5%87%E6%80%AA%E7%9A%84%E8%BE%93%E5%87%BA.png)
在 Windows 上尝试
脚步:
- 直接打开计算器或在运行中输入 calc。
- 然后输入 4 并取平方根“sqrt”
- 无论您得到多少(理想情况下您会得到 2!),都从中减去 2。
现在我的问题是,这在数学上正确吗?
答案1
理想情况下是错误的,但是浮点数在计算机内部的表示方式会导致这种意外的答案。
如果你查看答案的数值,它非常接近 0,这就是预期的答案。
答案2
不,从数学上来说这不正确。2-2 = 0 :)
Calc 给出的是 -0.00000000000000000001,这意味着 sqrt 函数得出了一个数字很接近为 2,但为了便于显示,将一些小数部分四舍五入。减去 2 后,得到一个非常接近 0 但不完全接近 0 的数字。
这是计算机中浮点数存储方式的产物。每个(非符号)计算器都会出现一些问题,导致出现类似这样的错误结果。例如,尝试 (sqrt(pi))^2-pi,它应该是 0。我刚刚在这个在线计算器得到 -1.3691388027。
答案3
它给予-8.1648465955514287168521180122928e-39
它基本上 = 0,因为它有 10^-39......