MySQL浮动舍入
我的表中有float(12，2）类型的列。 为什么在插入操作中，数字1399999.05被四舍五入到1399999.00？ 据我所知，如果数字的计数大于浮点描述中的设置，它就会对数字进行舍入。 但我的号码肯定只有两位数。 MySQL版本-5.7
共有1个答案
此处需要double数据类型。 float只允许大约七位有效的小数精度。 在32位IEEE浮点的世界中，您的值1399999.05和1399999.00彼此相等。 违反直觉，但却是真的。
MySQL忽略FLOAT，DOUBLE，INT（以及TINYINT，SMALLINT，BIGINT）数据类型的精度规范。 而是使用本机数据类型。 MySQL尊重十进制数据的精度规范。
在您的示例中，精度规格为(12，2)。
请考虑阅读这篇:关于浮点数，每个计算机科学家应该知道的内容。
-
我将货币值作为浮动存储在mysql表中。 问题是，mysql正在向上或向下舍入数字。 例如，12345.68四舍五入为12345.7 如何停止此操作，或者是否应该使用更好的数据类型？ 我希望将原始值保留在小数点后2位以内。
-
我有一个关于PostgreSQL 9.2中浮点数的新手问题。 有没有直接舍入浮点数的函数，即不需要先将数字转换为数字类型？ 另外，我想知道是否有一个函数可以用任意的度量单位进行取整，例如精确到0.05？ 首先将数字转换为十进制形式时，以下查询工作正常： 然而，我真正想要实现的是以下几点： 这当前给了我以下错误： 谢啦
-
问题内容： 我不知道这是否是一个明显的错误，但是在运行Python脚本以更改模拟参数时，我意识到缺少和的结果。在调查中，我注意到以下Python代码： 生成的相同文件的增量= 0.28和0.29，与.57和.58相同，原因是python返回float（29）/ 100为。但这不是系统错误，从某种意义上说，它并不是每个整数都发生的。因此，我创建了以下Python脚本： 而且我看不到发生这种舍入错误的
-
问题内容： 有没有办法将python浮点数舍入为x小数？例如： 我已经找到了修剪/截断它们的方法（66.666666666-> 66.6666），但是不是圆形的（66.666666666-> 66.6667）。 问题答案： 使用内置功能： 帮助： round（number [，ndigits]）->浮点数 将数字四舍五入到给定的精度（以十进制数字表示）（默认为0位数）。这总是返回一个浮点数。精度可
-
问题内容： 我期望的是0.313而不是0.312，为什么会这样呢？还有其他方法可以用来获得0.313吗？ 谢谢 问题答案： Python 3使用舍入到偶数方法根据IEEE 754标准进行舍入。 如果您想采用另一种方式取整，则只需手动实施即可： 用法示例： 注意： 在python2中，舍入总是远离零，而在python3中，它舍入为偶数。（例如，请参见功能文档中的2.7和3.3之间的区别）。
-
我写了这段代码，它只是对n个数字的列表进行求和，以练习浮点运算，但我不明白这一点： 我正在使用float，这意味着我有7位精度，因此，如果我执行10002*10002=100040004的操作，数据类型float的结果将是100040000.000000，因为我丢失了第7位以外的任何数字（程序仍然知道指数，如图所示）。 如果此程序中的输入是 然而，您将看到，当这个程序计算30003*30003=9
-
C和C++提供了几种宽度的浮点数据类型，但它们没有指定精度。编译器可以自由地使用理想化的算术来简化表达式，使用双精度来计算值上的表达式，或者使用双精度寄存器来保留变量或公共子表达式的值。 纠正我如果我是错的是错的，请参见编辑，但是将内存中的提升到双精度寄存器中也是合法的，所以存储一个值然后加载回来并不一定会截断位。 将一个数字转换成一个较低精度的最安全、最便携的方法是什么？理想情况下，在SSE2上
-
我不明白为什么这是1.0。它不应该是0.999999999999吗？因此，我提出了一种解决方案，python对其答案进行了自动舍入，但如果大于，则无法解释以下结果。。。 我以为四舍五入错误是因为尾数中使用的位数有限，指数（浮点数），但0.9999~~9也没有超出位数的限制...有人能解释一下为什么这些结果会这样吗？