为什么这个表达式会导致浮点错误？

Question

所以浮点运算是不精确的，但这并不能完全解释这里发生的事情：

[46] pry(main)> a=0.05
=> 0.05
[47] pry(main)> a=a*26.0/65
=> 0.02

[48] pry(main)> a=0.05
=> 0.05
[49] pry(main)> a*=26.0/65
=> 0.020000000000000004
[50] pry(main)> 26.0/65
=> 0.4

Answer 1

浮点格式的意义有足够的位来表示26/65是不正确的。（“意义”是首选术语。意义是线性的。尾数是对数的。）

二进制浮点数的意义是二进制整数。这个整数是根据指数缩放的。为了用二进制浮点表示26/65，也就是。4，我们必须将它表示为一个整数乘以2的次方。例如，.4的近似值是1•2^-1=0.5。一个更好的近似是3•2^-3=.375。更好的是26•2^-4=.40625。

然而，无论你用什么整数来表示意义或用什么指数，这种格式都不可能是精确的。假设您有。4=f•2^e，其中f和e是整数。然后2/5=F•2^E，SO2/(5F)=2^E，然后1/(5F)=2^E-1和5F=2^1-E。若要做到这一点，5必须是2的次方。不是，所以不能有。4=F•2^E。

在IEEE-754 64位二进制浮点中，意义有53位。这样，与.4最接近的可表示值是0.400000000000000000002220446049250313080847263336181640625，等于3602879701896397•2^-53。

现在让我们看看你们的计算。在a=0.05中，0.05转换为浮点值，生成0.05000000000000000000277555756156289135105907917022705078125。

在A*26.0/65中，首先计算A*26.0。精确的数学结果四舍五入到最接近的可表示值，产生1.30000000000000000000444089209850062616169452667236328125。然后这个除以65。同样，答案四舍五入，产生0.02000000000000000000004163336342344337026588618755340576171875。当Ruby打印这个值时，它显然决定它足够接近0.02，所以它只能显示“.02”，而不能显示完整的值。这是合理的，因为如果您将打印值。02转换回浮点，您将再次得到实际值，0.020000000000000000004163336342344337026588618755340576171875。所以“.02”在某种意义上是0.02000000000000000000004163336342344337026588618755340576171875的一个很好的代表。

在另一个表达式中，a*=26.0/65。其中，首先计算26.0/65。这产生0.400000000000000000002220446049250313080847263336181640625。这与第一个表达式不同，因为您以不同的顺序执行了操作，因此舍入了不同的数字。第一个表达式中的一个值可能是向下舍入的，而这个不同的值，因为它碰巧与浮点表示的值相对应，是向上舍入的。

然后该值乘以A。这产生0.020000000000000000000388578058618804789148271083831787109375。注意，这个值比第一个表达式的结果离.02更远。您的Ruby实现知道这一点，因此它决定打印“.02”不足以准确地表示它。相反，它显示更多的数字，显示0.020000000000000004。