了解C#浮点数精度。C#如何存储浮点数？[复制]

Question

在处理浮点数时，我对C#中“精度”的实际含义有些怀疑。如果逻辑性不强，而且解释太长，我提前道歉。

我知道浮点数（例如10.01F）的精度为6到9位。假设我们有下一个代码：

float myFloat = 1.000001F;
Console.WriteLine(myFloat);

我在控制台里得到了确切的数字。现在，让我们使用下一个代码：

myFloat = 1.00000006F;
Console.WriteLine(myFloat);

打印了一个不同的数字：1.0000001，即使这个数字有9位数，这也是极限。

这是我的第一个怀疑。精度取决于数字本身还是计算机的结构？

此外，数据以位的形式存储在计算机中，在中间，我记得将数字的小数部分转换为位可能会导致在将数字转换回十进制时产生不同的数字。例如：

(Decimal) 1.0001 -> (Binary) 1.00000000000001101001
(Binary) 1.00000000000001101001 -> (Decimal) 1.00010013580322265625 (It's not the same)

我的逻辑是：也许浮点数在存储时不会丢失信息，也许当数字转换回十进制以显示给用户时，这些信息就会丢失。

例如。

float myFloat=9999999.11F 1.11F

上述结果应为：1000000.22。然而，由于这个数字超过了浮点的精度，我应该看到一个不同的数字，这确实发生了：1000000.25

差异为0.03。为了查看实际结果是否为1000000.22，我做了下一个条件：

if (myFloat == 1000000.22F) {
       Console.WriteLine("Real result = 100000.22");
}

它实际上打印了它：真实结果=100000.22。

所以...信息丢失发生在将位转换回十进制时？或者它也发生在较低级别的计算中，我的例子只是巧合？




Answer 1

当您在代码中编写100000.22F时（编译器必须找到与要键入的十进制数最接近的结果的指数和尾数），以及转换为十进制以显示时，都会发生舍入。

在实际的算术运算中没有任何十进制/二进制类型的舍入，尽管算术运算确实存在与尾数位数有限相关的舍入误差。

Answer 2

匿名用户

源代码中的1.000001F被转换为float值8388616•2^{−23，即1.00000095367431640625。}

源代码中的1.0000000 6f转换为float值8388609•2^{−23，即1.00000011920928955078125。}

控制台。WriteLine只显示其中一些值；默认情况下，它会将显示舍入到有限的位数。

999999.11F转换为15999986•2^{−4这是999999.125<代码>1.11F转换为9311355•2−23，即1.1100000143051474609375。当使用实数数学将其相加时，结果为8388609971323•2−23。这不能用浮点表示，因为浮点的分数部分（称为有效位）只能有24位，因此其作为整数的最大值为16777215。如果我们将该有效位除以219，将其减少到该极限，我们得到大约8388609971323/219•2−23•219}=16000003.76•2−4。将有效位四舍五入为整数将产生1600004•2⁻⁴。因此，当这两个数字相加时，float算术对结果进行四舍五入，并生成1600004•2^{−4，即1000000.25。}

所以...信息丢失发生在将位转换回十进制时？或者它也发生在较低级别的计算中，我的例子只是巧合？

将十进制数字转换为浮点通常会导致舍入错误。

添加浮点数通常会导致舍入错误。

将浮点数转换为精度有限的十进制数字通常会导致舍入误差。