当前位置: 首页 > 面试题库 >

设置BigDecimal的特定精度

空俊语
2023-03-14
问题内容

我有一个XSD,要求我对经纬度使用BigDecimal。目前,我将经度/纬度作为双精度值,并将其转换为BigDecimal,但仅需要使用12个精度位即可。我还无法弄清楚该如何设置。谁能帮我这个?


问题答案:

问题的标题询问精度。BigDecimal区分小数位数和精度。小数位数是小数位数。您可以将精度视为有效数字的数量,也称为有效数字。

Clojure中的一些示例。

(.scale     0.00123M) ; 5
(.precision 0.00123M) ; 3

(在Clojure中,The M表示一个BigDecimal文字。您可以根据需要将Clojure转换为Java,但我发现它比Java更紧凑!)

您可以轻松增加规模:

(.setScale 0.00123M 7) ; 0.0012300M

但是您不能以完全相同的方式 减小 比例:

(.setScale 0.00123M 3) ; ArithmeticException Rounding necessary

您还需要通过舍入模式:

(.setScale 0.00123M 3 BigDecimal/ROUND_HALF_EVEN) ;
; Note: BigDecimal would prefer that you use the MathContext rounding
; constants, but I don't have them at my fingertips right now.

因此,很容易更改比例。但是精度呢?这并不像您希望的那么简单!

降低 精度很容易:

(.round 3.14159M (java.math.MathContext. 3)) ; 3.14M

但是如何 提高 精度并不明显:

(.round 3.14159M (java.math.MathContext. 7)) ; 3.14159M (unexpected)

对于持怀疑态度,这是 不是 只是一个不显示尾随零的事情:

(.precision (.round 3.14159M (java.math.MathContext. 7))) ; 6 
; (same as above, still unexpected)

FWIW,Clojure是小心尾随零,并 告诉他们:

4.0000M ; 4.0000M
(.precision 4.0000M) ; 5

回到正轨…您可以尝试使用BigDecimal构造函数,但是它不会将精度设置为高于您指定的位数:

(BigDecimal. "3" (java.math.MathContext. 5)) ; 3M
(BigDecimal. "3.1" (java.math.MathContext. 5)) ; 3.1M

因此,没有快速的方法来更改精度。我花了很多时间来解决这个问题,同时编写了这个问题并正在研究一个项目。我认为这充其量是一个CRAZYTOWN
API,而最糟糕的是一个bug。人。认真吗

因此,据我所知,如果要更改精度,则需要执行以下步骤:

  1. 查找当前精度。
  2. 查找当前比例。
  3. 计算比例变化。
  4. 设定新的比例

这些步骤,作为Clojure代码:

(def x 0.000691M) ; the input number
(def p' 1) ; desired precision
(def s' (+ (.scale x) p' (- (.precision x)))) ; desired new scale
(.setScale x s' BigDecimal/ROUND_HALF_EVEN)
; 0.0007M

我知道,这只是改变精度的许多步骤!

BigDecimal为什么不提供此功能?我有事吗



 类似资料:
  • 问题内容: 在Java中,我想要一个双精度值并将其转换为a 并以一定的精度打印出它的String值。 它打印出这个巨大的东西: 47.47999999999999687361196265555918216705322265625 并不是 47.48 我进行转换的原因是有时double值将包含很多小数位(即),而将double转换为String时将产生科学计数法。我想以非科学计数法存储String值

  • 在Java中,我想取一个double值并将其转换为并打印出其字符串值以达到一定精度。 我进行转换的原因是,有时double值会包含很多小数位(即),而当将double转换为字符串时,会生成科学符号。我想用非科学符号存储字符串值。 我想让BigDecimal始终有两个精度单位,像这样:“47.48”。BigDecimal可以限制转换为字符串时的精度吗?

  • 问题内容: 我知道以下行为是一个老问题,但我仍然不明白。 或者即使我使用 为什么这个结果是:而不是:? 我该如何解决? 问题答案: 你真正想要的是 该构造得到的所有的不精确性,所以由你说的时候,你已经引入了舍入误差。使用构造函数可避免与通过导致的舍入错误。

  • 问题内容: 我正在编写一个简单的Java程序。我需要从输入中获取一个字符串并将其分为两部分:1-double 2-string。然后,我需要对double进行简单的计算,并将结果发送到具有特定精度的输出(4)。它工作正常,但是当输入为0时出现问题,则不能正常工作。 例如,对于这些输入,输出将是: 1公斤 输出:2.2046 3.1公斤 输出:6.8343 但是当输入为0时,输出应为0.0000,但

  • 问题内容: 我对配置Jenkins或Python还是很陌生,但我必须在Jenkins中设置单一测试。我的程序是在Python中运行的,但仅在Python 2.6上可以运行,而我应该使用的Jenkins版本是2.7,因此我试图设置Jenkins来设置一些环境变量,以便它准备为该特定测试启动准确的Python(它是一个更大的项目的一部分,该项目将成功运行其他运行良好的测试)。 我的想法是在命令中设置执

  • 我试图从以下JSON文本中设置作者值,但我的代码正在删除json文本的所有其他子级。 我尝试将第一本书中的作者更新为以下其他值。 设置步骤后,我的json只有书[1]的内容,如下所示。请告知如何才能获得我用替换值作为输出给出的整个json输入。 问候,萨蒂什。