当前位置: 首页 > 知识库问答 >
问题:

使用Excel 2010的简单HLOOKUP失败

穆旭尧
2023-03-14

我有一个Excel电子表格(由电子表格齿轮生成,但更多的是一个Excel问题),当我使用HLOOKUPS时,它并没有像我预期的那样发挥作用。我使用一个简单的HLOOKUP来查找表中给定百分比的值。对于两个特定的值,HLOOKUP失败。这些值分别为0.9993和0.999。这个excel文档演示了这个问题:http://dsokol.com/tokio/excelna.xlsx.单元格C6和C7显示为N/A,而它们打算填充B和C。如果我重新键入这些值,HLOOKUPs将再次开始工作。

有人能解释为什么会发生这种情况吗?

共有2个答案

狄玉书
2023-03-14

我同意巴里的观点。这个问题与它们是数字还是字符串(它们都是数字)无关。这似乎是在二进制中存储浮点数的限制——如下所述:http://support.microsoft.com/kb/214118

Microsoft Excel和Microsoft Works中对浮点数进行的许多算术运算组合可能会产生非常小的错误结果。例如,等式=1*(.5-.4-.1)可计算为数量(-2.78E-17),或-0.0000000000000000278,而不是0。

此问题也不是excel独有的,而是以下原因造成的:

IEEE 754规定,数字应以二进制格式存储,以减少存储需求,并允许所有微处理器上可用的内置二进制算术指令以相对快速的方式处理数据。然而,一些简单的、不重复的十进制数被转换成重复的二进制数,无法以完美的精度存储。

这种现象在《算术等式》中可见:

同样,这不是excel独有的问题:

这种行为不是Excel或Works中的问题或限制;发生这种行为是因为电气和电子工程师协会(IEEE)754浮点标准要求数字以二进制格式存储。

祝你好运

俞俊逸
2023-03-14

问题是这些数字被存储为字符串而不是整数。我想您需要在电子表格Gear中显式声明列类型。

如果将xlsx文件作为zip文件打开,并提取Sheet1。xmlxl\WorkSheets文件夹中,在覆盖值之前和之后,任何差异工具(例如winmerge)都会使这一点变得明显。

我已经在这个要点上发布了XML差异。

 类似资料:
  • 我想学习如何编写JUnit测试,但我完全失败了。 这是我的测试: 问题是这个简单的断言已经失败了。返回的列表是空的。我知道,我对这一切都不熟悉,但是从我的角度来看,失败是如此出乎意料,以至于我没有办法解决这个问题。 以下是全部代码(不太多): 要测试的功能就是这个,我知道它是有效的: 实际上,我只是想学习如何编写这样的测试,但是几天来我一直没有写出来。有相当多的例子和解释,但是不管我做什么尝试,我

  • 我不熟悉匕首。我创建了一个非常简单的单元测试,试图理解我应该如何使用dagger。不幸的是,它失败了。我可能还不了解匕首的一些基本原理。 而我的测试课失败了 我认为dagger会将B注入A,因为A希望注入B,DaggerModule包含一个@Providers注释方法,该方法创建B。 更新: 我发现当我像这样编写模块类时 将B注入A作品中。然而,我不理解为什么当模块有一个构造a实例的带注释的方法时

  • 主要内容:本节引言:,1.ViewPager的简单介绍,2.PagerAdapter的使用,3.ViewPager结合Fragment示例,4.代码示例下载,本节小结:本节引言: 本节带来的是Android 3.0后引入的一个UI控件——ViewPager(视图滑动切换工具),实在想不到 如何来称呼这个控件,他的大概功能:通过手势滑动可以完成View的切换,一般是用来做APP 的引导页或者实现图片轮播,因为是3.0后引入的,如果想在低版本下使用,就需要引入v4 兼容包哦~,我们也可以看到,Vie

  • 本文向大家介绍Android WebView 的简单使用,包括了Android WebView 的简单使用的使用技巧和注意事项,需要的朋友参考一下 Android WebView 1.首先修改activity.xml中的代码: 2.然后MainActivity中的代码: 3.最后设置权限: <uses-permission android:name="android.permission.INTE

  • 本文向大家介绍Android ViewFlipper的简单使用,包括了Android ViewFlipper的简单使用的使用技巧和注意事项,需要的朋友参考一下 大家都使用过ViewPager,但是ViewPager还有一个兄弟,那就是ViewFlipper。两者的名字非常相似,我们可以将ViewPager理解成“一页一页的视图”,ViewFlipper则是“快速翻转的视图”,但后者的使用率却远不及

  • 1. 前言 在上一节中,我们搭建了 MyBatis 实验环境。本小节,我们将一起学习如何使用 MyBatis,虽然在实际的开发中,你几乎不会按照本小节所介绍的方式去使用 MyBatis,但是这对你熟悉 MyBatis 整体结构有着重要作用,同时这也是面试的重点。 2. 编程式使用 MyBatis 官方文档中并未详细的介绍如何编程式使用 MyBatis,绝大多数情况下,我们都是通过 配置文件来拿到配