PowerShell[Math]::round有时不是rounding？

Question

我很难弄清楚为什么有些时候两个四舍五入的值的基础会给我一个非四舍五入的值。如果2.2-1.1=1.10000001。

我在PowerShell中有一个脚本块：

foreach($disk in $disks) 
{
    $size = $disk.Size
    $freespace = $disk.FreeSpace
    $percentFree = [Math]::Round(($freespace / $size) * 100)
    $sizeGB = [Math]::Round($size / 1073741824, 2)
    $freeSpaceGB = [Math]::Round($freespace / 1073741824, 2)
    $usedSpaceGB = $sizeGB - $freeSpaceGB

    #view the variable values in every iteration
    Write-Debug "`$size = $size"
    Write-Debug "`$freespace = $freespace"
    Write-Debug "`$percentFree = $percentFree%"
    Write-Debug "`$sizeGB = $sizeGB"
    Write-Debug "`$freeSpaceGB = $freeSpaceGB"
    Write-Debug "`$usedSpaceGB = $usedSpaceGB"
}

令人不安的部分是：

$usedSpaceGB = $sizeGB - $freeSpaceGB

null

现在我通过舍入减法的结果来“修复”这个问题，但我想知道为什么会发生这种情况。我希望有人能帮我弄明白是怎么回事。

Answer 1

好吧，让我们试试这个答案...

我假设$disks是Win32_logicaldisk实例的集合，在这种情况下，freespace和size属性是整数类型（特别是UINT64)。如果$disks包含其他类型，那么这两个属性可能是某种类型的整数，因为我们要处理的是字节计数。

这与问题有点无关，但在这一行...

$percentFree = [Math]::Round(($freespace / $size) * 100)

$percentFree.GetType()

$percentFree = [UInt64] [Math]::Round(($freespace / $size) * 100)

$sizeGB = [Math]::Round($size / 1073741824, 2)
$freeSpaceGB = [Math]::Round($freespace / 1073741824, 2)

...因为，当然，该方法重载必须返回浮点类型，因为根据定义，整数类型不能存储值的分数。因此，$sizegb和$freespacegb包含浮点值（特别是double)，所以当这一行...

$usedSpaceGB = $sizeGB - $freeSpaceGB

...是执行的$usedspacegb还将包含一个double，在这种情况下，只要它能够准确地表示结果值，所有的bets都将被取消。

希望这能解释为什么会发生这种情况。至于如何改进代码，首先我建议不要对中间值进行舍入...

$sizeGB = $size / 1073741824
$freeSpaceGB = $freespace / 1073741824
$usedSpaceGB = [Math]::Round($sizeGB - $freeSpaceGB, 2)

$sizeGB = $size / 1GB
$freeSpaceGB = $freespace / 1GB
$usedSpaceGB = [Math]::Round($sizeGB - $freeSpaceGB, 2)

这不会像您所看到的那样消除浮点近似值，但是$usedspacegb将更接近实际值，因为您不是基于已经舍入的$sizegb和$freespacegb值进行计算（这会丢弃一些信息）。

在前面的代码片段中，$usedspacegb仍然是double，因此它仍然有可能计算到一些不能准确表示的值。由于该值是为了显示而格式化的，否则必须序列化为字符串（作为HTML)，所以我将忘记Math.round，让string格式化像这样为您处理舍入...

$usedSpaceGBText = (($size - $freeSpace) / 1GB).ToString('N2')

...或者这个...

$usedSpaceGBText = '{0:N2}' -f (($size - $freeSpace) / 1GB)