以小数为单位的BigDecimal

Question

我在斯卡拉偶然发现了intersting这个东西（可能只对我来说）。总而言之，如果我们有一个BigDecimal（假设vala=BigDeximal（someValue），其中someValue是十进制字符串）

N * a / N == a

不会总是产生< code>true。我认为它与大小数的运算有关。我知道在scala中，创建BigDecimals的默认MathContext设置为< code>DECIMAL128(四舍五入，精度等于34)。我在小数点后超过30位的小数上发现了这种行为

我的问题是为什么我会得到这样的结果。我能控制他们吗？

例子

-0.007633587786259541984732824427480916

Answer 1

正如之前的评论已经指出的那样，对于无理数来说，这是不可避免的。这是因为没有办法使用标准数值类型（如果有的话）来表示无理数。由于我没有无理数的例子（即使 PI 也仅限于固定位数，因此可以表示为 2 个整数的商，使其成为有理数），我将使用重复的小数来说明这个问题。我将 N*a/N 更改为 a/N*N，因为它更好地展示了整数的问题，但它们是等价的：

a = BigDecimal(1)
N = BigDecimal(3)
a/N = 0.333...
a/N*N = 0.999...

正如您在上面的示例中所看到的，您可以使用尽可能多的小数位和任何舍入模式，但结果永远不会等于 1。（虽然每个操作使用不同的舍入模式可以获得 1，即 BigDecimal（3， roundHalfEven） * （BigDecimal（1， roundUp） / 3））

为了控制数字比较，您可以做的一件事是在执行算术运算时使用更高的精度，并在比较时四舍五入到所需的（较低的）精度：

val HighPrecision = new java.math.MathContext(36, java.math.RoundingMode.HALF_EVEN);
val TargetPrecision = java.math.MathContext.DECIMAL128;

val a = BigDecimal(1, HighPrecision)
val N = BigDecimal(3, HighPrecision)
(a/N*N).round(TargetPrecision) == a.round(TargetPrecision)

在上面的示例中，最后一个表达式的计算结果为 true。

更新

为了回答您的评论，虽然BigDecimal是任意精度，但它仍然受到精度的限制。它可以是34，也可以是1000000（如果您有足够的内存）。BigDecimal不知道1/3是0.33