天天看点

js 计算精度问题,及解决办法

js计算精度问题(浮点数误差,大数计算出错)

JavaScript 浮点数运算时经常遇到会 0.000000001 和 0.999999999 这样奇怪的结果,如:

0.1+0.2   //0.30000000000000004

1-0.9     //0.09999999999999998

9007199254740993-9007199254740992  //0

Math.pow(2,1023) //8.98846567431158e+307   

//但是

Math.pow(2,1024)  //Infinity

对于产生这些计算误差的具体原因这里不做探讨,如果想要了解可以到 https://github.com/camsong/blog/issues/9 了解其原理。

解决办法

1.代码如下

// 解决四维运算,js计算失去精度的问题 

//加法   

Number.prototype.add = function(arg){   

    var r1,r2,m;   

    try{r1=this.toString().split(".")[1].length}catch(e){r1=0}   

    try{r2=arg.toString().split(".")[1].length}catch(e){r2=0}   

    m=Math.pow(10,Math.max(r1,r2))   

    return (this*m+arg*m)/m   

}     

//减法   

Number.prototype.sub = function (arg){   

    return this.add(-arg);   

}   

//乘法   

Number.prototype.mul = function (arg)   

{   

    var m=0,s1=this.toString(),s2=arg.toString();   

    try{m+=s1.split(".")[1].length}catch(e){}   

    try{m+=s2.split(".")[1].length}catch(e){}   

    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)   

}  

//除法   

Number.prototype.div = function (arg){   

    var t1=0,t2=0,r1,r2;   

    try{t1=this.toString().split(".")[1].length}catch(e){}   

    try{t2=arg.toString().split(".")[1].length}catch(e){}   

    with(Math){   

        r1=Number(this.toString().replace(".",""))   

        r2=Number(arg.toString().replace(".",""))   

        return (r1/r2)*pow(10,t2-t1);   

    }   

0.1+0.2  // 0.30000000000000004

0.1.add(0.2)  //0.3

0.3-0.1  //0.19999999999999998

0.3.sub(0.1)  //0.2

2.可以通过引入 math.js 或者 bigNumber.js 进行解决

例如

99999999999999999999-99999999999999999000  // 0

new BigNumber('99999999999999999999').minus('99999999999999999000')  //999

99999999999999999999===99999999999999999000  //true

new BigNumber('99999999999999999999').eq('99999999999999999000')  //false

BigNumber.js 支持很多相关计算,如果想了解更多请查阅相关API

继续阅读