用十进制除以十进制并得到零
为什么当我这样做：
select CAST(1 AS DECIMAL(38, 28))/CAST(1625625 AS DECIMAL(38, 28))
我得到0，但是当我得到
select CAST(1 AS DECIMAL(20, 10))/CAST(1625625 AS DECIMAL(20, 10))
我有价值吗？
我本来希望更高的精度除法返回更高的精度结果，为什么不是这种情况呢？
问题答案：
发生这种情况的原因是，对于数学运算，使用http://msdn.microsoft.com/zh-
cn/library/ms190476.aspx#division中
找到的规则来计算得出的精度和小数位数
操作
e1 / e2结果精度
p1-s1 + s2 + max（6，s1 + p2 + 1）结果标度
max（6，s1 + p2 + 1）
因此，当同时使用decimal(38/28)这两个部分时，您将以decimal(105,67)不支持的结尾而被截断。
也引用
结果精度和小数位的绝对最大值为38。当结果精度大于38时，相应的小数位会减小，以防止结果的整数部分被截断。
-
我可以运行这个程序，但由于某些原因，它会显示/放置随机字符，而不是二进制的初始值，而且我似乎无法将程序从十进制运行回二进制。我该如何改进这些代码。要明确说明它不会将二进制转换为十进制，我将如何将其转换回十进制转换为二进制，如果有一些代码可以帮助我，将不胜感激。
-
Python3 实例 以下代码用于实现十进制转二进制、八进制、十六进制： # -*- coding: UTF-8 -*- # Filename : test.py # author by : www.runoob.com # 获取用户输入十进制数 dec = int(input("输入数字：")) print("十进制数为：", dec) print("转换为二进制为：", bin(dec
-
问题内容： 如何将RGB格式的颜色转换为十六进制格式，反之亦然？ 例如，转换为。 问题答案： 注 ：这两个版本的期待整数值，并且，所以你需要，如果你有非整数值做自己的舍入。 以下将执行RGB到十六进制的转换，并添加任何所需的零填充： 转换另一种方式： 最后，在答案中讨论并在@cwolves的评论中建议使用的替代版本： 更新 这是它的一个版本，还解析了一个速记的三元组，例如“＃03F”：
-
本文向大家介绍十进制到二进制转换，包括了十进制到二进制转换的使用技巧和注意事项，需要的朋友参考一下 十进制数字也可以转换为二进制格式。要将十进制数转换为二进制数，我们需要将数字除以2，直到达到0或1。然后，在每一步骤中，其余部分将分开存储以形成相反的二进制等效数。 在此算法中，我们将遵循递归方法。这将帮助我们在不使用堆栈数据结构的情况下解决问题。在实现中，我们知道函数的递归将遵循内部堆栈。我们将使
-
我想知道如何将舞蹈方法的十进制结果包含到灯光方法中。例如，在这个程序中，如果我输入5F，十进制结果将是95。我希望95在light方法中显示为静态int变量，以便转换为二进制数。如果你能告诉我如何将十六进制数限制在2位数以内，那也会很有帮助。感谢阅读！ } }
-
问题内容： 我有一个代表2的补码的十六进制字符串。是否有一种简单的方法（库/函数）将十六进制转换为十进制而不直接使用其位？ EG这是给定左侧十六进制的预期输出： 谢谢！ 问题答案： 这似乎在欺骗Java转换数字而不强制给出正结果： 当然，这种情况仅适用于8、16、32和64位2的补码：