当前位置: 首页 > 知识库问答 >
问题:

浮数数学题加减“重复”

谭梓
2023-03-14
var a = 3.94
var b = 0.5
var r = a + b
console.log(r) //4.4399999999999995
var a = 4.22
var b = 0.5
var r = a - b
console.log(r) //3.7199999999999998

共有1个答案

尹辰沛
2023-03-14

多亏了@stakvino的建议,我想我想明白了。

告诉我你们的想法。

添加

var a = 3.94
var b = 0.5

var fixed = String(a)

if (fixed.indexOf('.') === -1) {
    fixed = 0;
}

else {
    fixed = fixed.split('.')
    fixed = fixed[1].length;
}



var r = (a + b).toFixed(fixed)
console.log(r)
var a = 4.22
var b = 0.5

var fixed = String(a)

if (fixed.indexOf('.') === -1) {
    fixed = 0;
}

else {
    fixed = fixed.split('.')
    fixed = fixed[1].length;
}



var r = (a - b).toFixed(fixed)
console.log(r)
 类似资料:
  • 几年前,在20世纪90年代初,我创建了图形包,用于优化基于定点算术的计算,并预先计算出了cos、sin和sqrt和log近似的缩放方程的表格,这些表格使用牛顿近似法。这些先进的技术似乎已经成为图形和内置数学处理器的一部分。大约5年前,我上了一堂数值分析课,涉及到一些古老的技术。我已经编码了近30年,很少看到那些老的定点优化在使用,即使在为世界级粒子加速器实验的GPGPU应用工作之后。固定点方法是否

  • 我有以下值给出了错误的总数。 当我用计算器计算上述值时,它给出了我预期的结果,而javascript给出了我意想不到的结果。为什么和什么是解决方案才能得到预期的结果?

  • 我有Java应用程序,它集中处理2D浮动数组(float[][]数组),实际上在黑色背景上保存图像。两个维度是相等的(平方)并且是2的幂(通常是256、512、1024),所以靠近边界的区域在大多数情况下都是零。 为了提高性能(有一些FFT)和降低在这些阵列上操作的复杂性(如旋转等),大小等于2的幂。根据我的计算,这个应用程序的内存消耗应该达到2-3Gb,而达到4-5Gb(查看Windows任务管

  • 为什么当输出0.3时,它能解释错误(如果是的话),而当相加发生时,它却不能解释错误呢?

  • 直线上最多的点数 LeetCode - 149. 直线上最多的点数 问题描述 思路 根据 y=kx+b,计算每两个点的 (k, b) 对,配合 map 存储 使用 (k,b) 可能存在精度问题,更好的方法是使用 ax+by+c=0 两者本质上没有区别,实际上就是把 k 分为 a/b 存储 注意:将 {a, b} 作为 key 时应该先利用最大公约数缩小 a 和 b C++ class Soluti

  • 我正在努力解决一个浮点数问题,其中var变化返回为0.0999循环,我需要返回0.01(一便士)。由于这个问题,代码运行良好,除了最后一分钱。这是我在这里的第一个帖子,所以请原谅格式... 提前道谢!