当前位置: 首页 > 知识库问答 >
问题:

在Excel中,0.2 0.1如何等于0.3?

蒯宇定
2023-03-14

我完全理解为什么0.1 0.2不等于0.3,因为是浮点。在大多数编程语言中,0.1 0.2==0.3False

但是在Excel中,如果(0.1 0.2==0.3;1;0)给出1

共有1个答案

徐高韵
2023-03-14

在Excel中发生这种情况的原因是Excel只跟踪15位精度。0.20.1的浮点运算结果是0.300000000004,其中4位是第17位。这意味着Excel只会截断第15个0之后的所有内容,并保留0.3000000000which=0.3

有关更多信息,请参见此处:https://en.wikipedia.org/wiki/Numeric_precision_in_Microsoft_Excel

 类似资料:
  • 问题内容: 我是Java初学者,对此很困惑。 在Java中怎么等于-4? 问题答案: 这是由于整数静默溢出。 是整数的最大值。 无声溢出意味着 您可以看到 换句话说,现在您可以看到原因。 从技术上讲,结果由Java语言规范#15.17.1定义: 如果整数乘法溢出,则结果是数学乘积的低阶位,以某种足够大的二进制补码格式表示。结果,如果发生溢出,则结果的符号可能与两个操作数值的数学积的符号不同。

  • 问题内容: 在Django模型QuerySets中,我看到比较值存在和,但是存在(不等于?)。 我想使用不等于过滤掉: 例: 我想要 在不正确的语法。我试过。 我最终使用: 问题答案: 也许Q对象可以帮助解决此问题。我从未使用过它们,但似乎可以将它们取反并组合起来,就像普通的python表达式一样。 更新:我只是尝试了一下,它似乎工作得很好:

  • 下图是关于Excel的Dashboard。希望做出同样的效果。点击名字(player name)可以看到与其相关的数据(total distance & total sprint distance)在chart里发生改变,同时有一个平均值(红色的team average)与相关人员的数值(绿色)作比较。 我可以做出人员名单的切片,也能让人员列表与chart互动,就是不知道如何把average加进c

  • 问题内容: 我需要进行查询并与一年中的所有日子一起加入,但是在我的数据库中没有日历表。 谷歌搜索后,我在PostgreSQL中找到了。MySQL有类似的东西吗? 我的实际表有这样的东西: 但是我的查询必须返回: 问题答案: 这就是我的方法。它创建了从 2011-01-01 到 2011-12-31 的日期范围: 唯一的要求是 any_table中 的行 数 应大于或等于所需范围的大小(在此示例中,

  • 问题内容: 我一直这样做: 但我意识到这也是正确的。 Double 仍然可以使用,并且一直为我工作,但是每当我搜索PHP运算符时,都找不到关于double的信息,因此我认为我一直做错了,但是无论如何它都可以工作。我应该改变我的所有来只是为了它的缘故? 问题答案: 并且不考虑您比较的变量的数据类型。因此,这些都将返回true: 并且 也 考虑到数据类型。这意味着将字符串与布尔值进行比较 永远不会 是