floating-point
如何从文本文件粘贴浮点数？
我粘贴了以下文字： 0.354 1.225 脱颖而出。 粘贴后，Excel 将 0.354 解释为 0.354，但将 1.225 解释为 1225。 如何让 Excel 将 1.225 解释为 1.225？ UPD0。我发现 Excel 默认设置是两位小数。如果我输入 1.17（例如），Excel 会将其解释为 1.17。如果我输入 1.117（例如），Excel 会将其解释为 1117。完全出乎意料。如何解决？ ...
floating-point
floating-point
PostgreSQL sum 函数在使用 psql 多次运行时会重新产生不同的结果
我有这个疑问： SELECT SUM(median) FROM my_table WHERE id = 100 -- median is of type float4 当我从运行时psql，它会返回多次运行略有不同的结果（例如 1000.08、1001.02，...） 对该查询有贡献的条目数约为100K。 但是当我使用 DBeaver 的 SQL 编辑器运行查询时（https://dbeaver.io/），我多次运行时始终得到相同的结果。 有没有办法配置psql以便我获得相同的结果DBeaver？ ...
floating-point
Excel 无法将文本中的非常小的浮点数解析为值
我从计算中得到文本形式的结果，我想将其粘贴到 Excel 中。有些数字非常小，小到最小 IEEE 754 双精度值大于零，2^-1074，例如大约 10^-324。 当我将其粘贴到 Excel 中时，Excel 仅解析小于 2^-1022 的数字，例如大约 10^-308，就好像它忽略了小尾数一样。 这些数字并不重要，可以直接解析为零，但 Excel 会将它们视为文本，极其不方便。 我有两个问题： 为什么 Excel 不将值解析为数字或零？ 除了在导出过程中预先过滤小数字之外，还有其他方法可以缓解这个问题吗？ 例子： 仅对线以下的部分进行正...
floating-point
Excel 浮点和布尔无法解释的行为
感谢您查看我的问题。 今天我工作时在使用 Excel 时，遇到了一些涉及 Excel 浮点运算和布尔测试的异常行为。这是我制作的Excel文件测试用例的链接。 为了排除故障并获得更多见解，我查看了以下页面：来源1，来源2是Chip Pearson关于Excel浮点精度的帖子，第三个来源是维基百科关于Excel精度的文章（由于声誉问题，不能发布超过2个链接。抱歉，我是新来的）。 问题简而言之就是单元格 A2:A4、A10:A12、I2:I4 和 I10:I12 都具有完全相同的值，且顺序完全相同，即 A2=I2=A10=I10，...，A4 ...
floating-point
Excel 舍入误差
在新的工作表中（我使用的是 Excel 2013），从左上角开始输入： A 乙 C =18.6 + 67.2 =A1-85.8 = 0 =(A1-85.8) * 1000000000000 期待 A 乙 C 85.8 真的 0 实际结果 A 乙 C 85.8 错误的 0.014210855 我很清楚浮点数可以表现得像这样，但我仍然惊讶于它发生在对每个具有少量有效数字和相似数量级的数字进行如此简单的运算时。 有人能解释为什么会发生这种情况以及为什么它只发生在某些值对（并且始终是非整数）上吗...
%20%E8%BF%94%E5%9B%9E%E6%84%8F%E5%A4%96%E7%BB%93%E6%9E%9C.png)
floating-point
Excel 模数函数 MOD(0.9, 0.3) 返回意外结果
MODExcel 中的函数应返回 Excel 中的模余数 我相信该函数=MOD(0.9, 0.3)应该给出 0，因为基本上 0.3*3 是 0.9 但它给出的是 5.55112E-17 有什么提示表明哪里出了问题吗？ ...
floating-point
如何从 pgf/fpu 中获取数字的尾数和指数？
我需要从内部获取数字的尾数和指数pgf/fpu。我找到了@egreg的解决方案这里，但此解决方案在内部不起作用fpu。 \documentclass[]{article} \usepackage{pgf, tikz} \usetikzlibrary{fpu} \usepackage{xparse} \ExplSyntaxOn \DeclareExpandableDocumentCommand{\mantissa}{m} { \hafid_mantissa:f { \tl_lower_case:n { #1 } } } \cs_new:Nn \ha...
floating-point
\fp_eval 的输入清理
是否有命令询问参数是否\fp_eval是解析错误？例如： \fp_if_valid:nTF { 1+2.3*2 } { yes } { no } % yes \fp_if_valid:nTF { 1+2.3* } { yes } { no } % no 我希望能够清理用户输入，如果他们的输入无效，则抛出我自己的错误。无论如何，我只是好奇是否有内置命令可以执行此操作，或者 latex3 团队是否打算添加此功能。我编写了以下代码，它似乎有效（感谢 Rob Hall 修复了一些错误）： \documentclass{article} \usepackag...
floating-point
当表达式无法通过 fpeval 求值时，分支到某个地方
我想设计一个\comparator依赖于fpeval具有 3 个分支的可扩展命令： 真枝当比较结果等于 1 时 假枝当比较结果等于零时 无效分支当无法进行比较时（而不是返回编译错误） 这是我当前使用的代码： \documentclass[preview = true, varwidth = true]{standalone} \usepackage{xparse} \usepackage{xfp} \ExplSyntaxOn \NewExpandableDocumentCommand{\compare}{r[] m m m m m}{ \co...
floating-point
如何在使用 \foreach 时消除浮点数
我的问题很简单，我想为家庭作业构建一个数轴，并想出了以下代码： \begin{tikzpicture} \draw(0,0)--(16,0); \foreach \x/\y in {0/0,1.6/0.2,...,16.2/2.1} \draw(\x,0.2)--(\x,-0.2) node [below] {\y}; \end{tikzpicture} 这将产生以下输出： 前两个标记值没问题，但出于某些原因，\y得到的值是\x（这肯定不是我想要的）。我还想摆脱浮点不精确的问题。我该如何解决这个问题？ ...
floating-point
使用 TikZ/pgf 计算与使用 l3fp 计算
pgfmanual.pdf，VII 实用程序，重复的事情：Foreach 语句，说： \foreach \x in {0,0.1,...,0.5} {\x, }得出 0、0.1、0.20001、0.30002、0.40002， 并警告造成此问题的舍入误差。 按照 expl3 的方式做事\fp_step_inline:nnnn通常更安全吗？ （如果我做 \documentclass{article} \begin{document} \ExplSyntaxOn\fp_step_inline:nnnn {0}{0.1}{0.5}{#1,~}\ExplSynt...
floating-point
浮点加法与乘法
我正在编写一个小宏来根据 Tikz 中的一些参数绘制曲线： \newcommand{\beznorm}[4]{%x, y, width, height \def\x{#1}% \def\y{#2}% \def\w{#3}% \def\h{#4}% \def\sw{1/8 * \w} \def\sh{1/4 * \h} \draw [cyan, shift={(\x, \y)}, xscale=\sw, yscale=\sh] (0,0) .. controls (1,0) and ...
%20-%20%E6%B5%AE%E7%82%B9%E6%95%B0%20-%20%E5%8D%95%E5%85%83%E6%B5%8B%E8%AF%95%EF%BC%9F.png)
floating-point
如何将浮点数截断为任意小数位？
是否有软件包提供命令，可以将浮点数截断为任意小数位，而不是最接近的整数？例如，2.59 截断到小数点后一位是 2.5（而圆形圆周率小数点后一位为 2.6），而圆周率小数点后三位为 3.141（而圆形到小数点后第三位为3.142）。 ...
floating-point
浮点计算问题（使用 pgfmathparse 通过长度）
通过 sbox 计算的输入高度（在本例中 = 116.43562 pt）和 17.68 pt 相减会在第五个浮点处产生错误的结果。 这是完整的 tex 文件 \usepackage[T1]{fontenc} \usepackage[utf8]{inputenc} \usepackage{pgf,tikz} \newsavebox{\mybox} \newlength{\myboxht} \newcommand{\myfunction}[1]{% \sbox{\mybox}{% \begin{minipage}[b]{\linewidth} #1 \en...