floating-point

Excel 无法将文本中的非常小的浮点数解析为值
floating-point

Excel 无法将文本中的非常小的浮点数解析为值

我从计算中得到文本形式的结果,我想将其粘贴到 Excel 中。有些数字非常小,小到最小 IEEE 754 双精度值大于零,2^-1074,例如大约 10^-324。 当我将其粘贴到 Excel 中时,Excel 仅解析小于 2^-1022 的数字,例如大约 10^-308,就好像它忽略了小尾数一样。 这些数字并不重要,可以直接解析为零,但 Excel 会将它们视为文本,极其不方便。 我有两个问题: 为什么 Excel 不将值解析为数字或零? 除了在导出过程中预先过滤小数字之外,还有其他方法可以缓解这个问题吗? 例子: 仅对线以下的部分进行正...

Admin

Excel 浮点和布尔无法解释的行为
floating-point

Excel 浮点和布尔无法解释的行为

感谢您查看我的问题。 今天我工作时在使用 Excel 时,遇到了一些涉及 Excel 浮点运算和布尔测试的异常行为。这是我制作的Excel文件测试用例的链接。 为了排除故障并获得更多见解,我查看了以下页面:来源1,来源2是Chip Pearson关于Excel浮点精度的帖子,第三个来源是维基百科关于Excel精度的文章(由于声誉问题,不能发布超过2个链接。抱歉,我是新来的)。 问题简而言之就是单元格 A2:A4、A10:A12、I2:I4 和 I10:I12 都具有完全相同的值,且顺序完全相同,即 A2=I2=A10=I10,...,A4 ...

Admin

Excel 舍入误差
floating-point

Excel 舍入误差

在新的工作表中(我使用的是 Excel 2013),从左上角开始输入: A 乙 C =18.6 + 67.2 =A1-85.8 = 0 =(A1-85.8) * 1000000000000 期待 A 乙 C 85.8 真的 0 实际结果 A 乙 C 85.8 错误的 0.014210855 我很清楚浮点数可以表现得像这样,但我仍然惊讶于它发生在对每个具有少量有效数字和相似数量级的数字进行如此简单的运算时。 有人能解释为什么会发生这种情况以及为什么它只发生在某些值对(并且始终是非整数)上吗...

Admin

Excel 模数函数 MOD(0.9, 0.3) 返回意外结果
floating-point

Excel 模数函数 MOD(0.9, 0.3) 返回意外结果

MODExcel 中的函数应返回 Excel 中的模余数 我相信该函数=MOD(0.9, 0.3)应该给出 0,因为基本上 0.3*3 是 0.9 但它给出的是 5.55112E-17 有什么提示表明哪里出了问题吗? ...

Admin

如何从 pgf/fpu 中获取数字的尾数和指数?
floating-point

如何从 pgf/fpu 中获取数字的尾数和指数?

我需要从内部获取数字的尾数和指数pgf/fpu。我找到了@egreg的解决方案这里,但此解决方案在内部不起作用fpu。 \documentclass[]{article} \usepackage{pgf, tikz} \usetikzlibrary{fpu} \usepackage{xparse} \ExplSyntaxOn \DeclareExpandableDocumentCommand{\mantissa}{m} { \hafid_mantissa:f { \tl_lower_case:n { #1 } } } \cs_new:Nn \ha...

Admin

\fp_eval 的输入清理
floating-point

\fp_eval 的输入清理

是否有命令询问参数是否\fp_eval是解析错误?例如: \fp_if_valid:nTF { 1+2.3*2 } { yes } { no } % yes \fp_if_valid:nTF { 1+2.3* } { yes } { no } % no 我希望能够清理用户输入,如果他们的输入无效,则抛出我自己的错误。无论如何,我只是好奇是否有内置命令可以执行此操作,或者 latex3 团队是否打算添加此功能。我编写了以下代码,它似乎有效(感谢 Rob Hall 修复了一些错误): \documentclass{article} \usepackag...

Admin

当表达式无法通过 fpeval 求值时,分支到某个地方
floating-point

当表达式无法通过 fpeval 求值时,分支到某个地方

我想设计一个\comparator依赖于fpeval具有 3 个分支的可扩展命令: 真枝当比较结果等于 1 时 假枝当比较结果等于零时 无效分支当无法进行比较时(而不是返回编译错误) 这是我当前使用的代码: \documentclass[preview = true, varwidth = true]{standalone} \usepackage{xparse} \usepackage{xfp} \ExplSyntaxOn \NewExpandableDocumentCommand{\compare}{r[] m m m m m}{ \co...

Admin

如何在使用 \foreach 时消除浮点数
floating-point

如何在使用 \foreach 时消除浮点数

我的问题很简单,我想为家庭作业构建一个数轴,并想出了以下代码: \begin{tikzpicture} \draw(0,0)--(16,0); \foreach \x/\y in {0/0,1.6/0.2,...,16.2/2.1} \draw(\x,0.2)--(\x,-0.2) node [below] {\y}; \end{tikzpicture} 这将产生以下输出: 前两个标记值没问题,但出于某些原因,\y得到的值是\x(这肯定不是我想要的)。我还想摆脱浮点不精确的问题。我该如何解决这个问题? ...

Admin

使用 TikZ/pgf 计算与使用 l3fp 计算
floating-point

使用 TikZ/pgf 计算与使用 l3fp 计算

pgfmanual.pdf,VII 实用程序,重复的事情:Foreach 语句,说: \foreach \x in {0,0.1,...,0.5} {\x, }得出 0、0.1、0.20001、0.30002、0.40002, 并警告造成此问题的舍入误差。 按照 expl3 的方式做事\fp_step_inline:nnnn通常更安全吗? (如果我做 \documentclass{article} \begin{document} \ExplSyntaxOn\fp_step_inline:nnnn {0}{0.1}{0.5}{#1,~}\ExplSynt...

Admin

浮点加法与乘法
floating-point

浮点加法与乘法

我正在编写一个小宏来根据 Tikz 中的一些参数绘制曲线: \newcommand{\beznorm}[4]{%x, y, width, height \def\x{#1}% \def\y{#2}% \def\w{#3}% \def\h{#4}% \def\sw{1/8 * \w} \def\sh{1/4 * \h} \draw [cyan, shift={(\x, \y)}, xscale=\sw, yscale=\sh] (0,0) .. controls (1,0) and ...

Admin

LaTeX(3) - 浮点数 - 单元测试?
floating-point

LaTeX(3) - 浮点数 - 单元测试?

如何测试浮点宏? 是否与“LaTeX(3)”中未实现的其他库进行了比较? 是否遵守 IEEE 浮点运算标准? ...

Admin

如何将浮点数截断为任意小数位?
floating-point

如何将浮点数截断为任意小数位?

是否有软件包提供命令,可以将浮点数截断为任意小数位,而不是最接近的整数?例如,2.59 截断到小数点后一位是 2.5(而圆形圆周率小数点后一位为 2.6),而圆周率小数点后三位为 3.141(而圆形到小数点后第三位为3.142)。 ...

Admin

浮点计算问题(使用 pgfmathparse 通过长度)
floating-point

浮点计算问题(使用 pgfmathparse 通过长度)

通过 sbox 计算的输入高度(在本例中 = 116.43562 pt)和 17.68 pt 相减会在第五个浮点处产生错误的结果。 这是完整的 tex 文件 \usepackage[T1]{fontenc} \usepackage[utf8]{inputenc} \usepackage{pgf,tikz} \newsavebox{\mybox} \newlength{\myboxht} \newcommand{\myfunction}[1]{% \sbox{\mybox}{% \begin{minipage}[b]{\linewidth} #1 \en...

Admin

Latex 抱怨数字太大
floating-point

Latex 抱怨数字太大

为了漂亮地打印带有数字后缀的大数字,这解决方案运行良好,除了最后一个测试用例(发帖人已经指出了这一点,所以这并不意外)。令人惊讶的是,6260563123被正确地缩短为6.3G,但日志中还出现了以下消息: 我最多只能到 2147483647='17777777777="7FFFFFFF,所以我用那个数字代替你的 有人可以指导我如何解决这个问题吗? ...

Admin

tikzpicture 没有浮点数
floating-point

tikzpicture 没有浮点数

我想制作一张包含数字的 tikzpicture。它看起来像这样: 我的问题是,我不知道如何去掉每个数字后面的 .0。有人能帮我得到整数而不是浮点数吗? 以下是 tikzpicture 的简短代码片段: \documentclass[a4paper, 11pt]{book} \usepackage{tikz} \begin{document} \begin{center} \begin{tikzpicture} % First Layer \edef\mya{0}...

Admin