概述:就在今天,测试提一个BUG,是什么呢?就是在计算商品采购价时,需要保留2位小数,当时是使用【Math.Round(采购价,2)】这种方法进行四舍五入的,但是这样写会有问题,至于什么问题呢,来看看这篇文章就对了!
四舍五入是一种精确度的计数保留法。在取小数近似数的时候,如果尾数的最高位数字是4或者比4小,就把尾数去掉。如果尾数的最高位数是5或者比5大,就把尾数舍去并且在它的前一位进"1",这种取近似数的方法叫做四舍五入法。
一、BUG回顾
我们经常使用四舍五入时,会使用【Math.Round(价格,2)】这种方法进行转换。而我也不例外,在计算价格时也是使用这个方法,而当遇到类似这样的数值时【301.505 】,返回的值却是【301.5】,按照四舍五入的原则,应该返回【301.51】才对是吧。
代码:
效果:
源码:
static void Main(string[] args)
{
double price = 320.75 * 0.94;
Console.WriteLine(price);//301.505
Console.WriteLine(Math.Round(price, 2));//301.5
Console.ReadKey();
}
那这是为什么呢?根据引用ChatGPT回答如下:
在C#中,Math.Round()函数默认使用的是银行家舍入法(Banker's rounding),即当小数部分为5时,会根据前一位数字的奇偶性来决定舍入方式。因此,1.085经过Math.Round(301.505,2)舍入后的返回值是301.5,而不是301.51.
然后四舍五入也有个国际惯例,叫奇进偶舍 。就是当舍入位前面一位是奇数时就进,为偶数时就舍。但是这种转换在国内很多企业就行不通了,那如何解决呢?请看下面方法。
二、解决掉BUG
我们可以这样写【Math.Round(价格, 2, MidpointRounding.AwayFromZero)】就可以解决啦。官方是这样描述的:"当一个数字是其他两个数字的中间值时,会将其舍入为两个值中绝对值较小的值"。
代码:
效果:
源码:
static void Main(string[] args)
{
double price = 320.75 * 0.94;
Console.WriteLine(price);//301.505
Console.WriteLine(Math.Round(price, 2));//301.5
double res = Math.Round(price, 2, MidpointRounding.AwayFromZero);
Console.WriteLine(res);///301.51
Console.ReadKey();
}
三、封装方法
为了能快速使用,为此封装了一个公共方法。
封装代码:
/// <summary>
/// Math辅助类
/// </summary>
public static class MathHelper
{
/// <summary>
/// 四舍五入
/// </summary>
/// <param name="value">值</param>
/// <param name="digits">保留的小数位数(默认:2位)</param>
/// <returns></returns>
public static double MathHalfAdjust(double value, int digits = 2)
{
return Math.Round(value, digits, MidpointRounding.AwayFromZero);
}
}
调用实例:
MathHelper.MathHalfAdjust(12.105, 2);//使用
原文链接:https://www.cnblogs.com/kimiliucn/p/17622687.html
文章来源: 博客园
- 还没有人评论,欢迎说说您的想法!