计算器奇怪的行为

计算器奇怪的行为

为什么会galculator误算4000225165312/512并得到781293977.6

笔记这旨在作为规范问题警告不要未经反思地使用galculator1.2.4。

  • 请不要使用它。这里(1) (2) (3)有一些很好的理由。
  • 我已经卸载了它,因为我今天对“我的”计算感到羞愧。我已将其替换为mate-calc正确计算所有这些表达式的方法。

答案1

Galculator 仅手柄十进制模式中预先确定的位数,特别是12。超出此范围的输入将被忽略!

因此,尝试计算 4000225165312 ÷ 512 最终计算出 400022516531 ÷ 512,IE不完全是781293977.6。

相关内容