浮点运算：为什么加法的顺序很重要？

Question

我理解，不可能用有限的位数来表示所有数字的任意精度，对浮点数进行天真的比较是不可取的。但我想，如果我把许多数字加在一起，我添加它们的**顺序**并不重要。

为了测试这个预测，我创建了一个随机数向量并计算它们的和，然后对向量排序并再次计算和。通常，这两个总数不匹配！这是我的代码（包含在下面）的一个问题，是浮点算法的一个缺点，还是可以通过切换编译器等来解决的问题。？

#include <algorithm>
#include <cstdio>
#include <cstdlib>
#include <random>
#include <vector>

double check_sum_depends_on_order(int seed)
{
    // fill a vector with random numbers
    std::vector<long double> v;
    std::uniform_real_distribution<long double> unif(-1.,1.);
    std::mt19937 rng(seed);
    for (size_t i = 0; i < 1000; ++i)
    {
        v.push_back(unif(rng));
    }

    // copy this vector and then shuffle it
    std::vector<long double> v2 = v;
    std::sort(v2.begin(), v2.end());


    // tot is running total for vector v, unsorted
    // tot2 is running total for vector v2, sorted
    long double tot = 0.0, tot2 = 0.0;
    for (size_t i = 0; i < v.size(); ++i)
    {
        tot += v[i];
        tot2 += v2[i];
    }

    // display result
    // you can comment this if you do not want verbose output
    printf("v tot\t= %.64Lf\n", tot);
    printf("v2 tot\t= %.64Lf\n", tot2);
    printf("Do the sums match (0/1)? %d\n\n", tot==tot2);

    // return 1.0 if the sums match, and 0.0 if they do not match
    return double(tot==tot2);
}

int main()
{
    // number of trials
    size_t N = 1000;

    // running total of number of matches
    double match = 0.;
    for (size_t i = 0; i < N; ++i)
    {
        // seed for random number generation
        int seed = time(NULL)*i;
        match += check_sum_depends_on_order(seed);
    }

    printf("%f percent of random samples have matching sums after sorting.", match/double(N)*100.);
    return 0;
}

Answer 1

假设您有一个精度为三位数的十进制浮点类型。不太现实，但这是一个更简单的例子。

假设您有三个变量，a，b和c。假设a是1000，b和c都是14。

a b为1014，四舍五入为1010<代码>（a b）c将是1024，四舍五入到1020。

b c将是28。a（b c）然后将是1028，四舍五入为1030。