Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 392|回复: 0

实现js浮点数加、减、乘、除的精确计算(网上很多文章里的方法是不能解决所有js浮点数计算误差的)

[复制链接]
  • TA的每日心情
    奋斗
    昨天 16:00
  • 签到天数: 755 天

    [LV.10]以坛为家III

    2034

    主题

    2092

    帖子

    70万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    707348
    发表于 2021-4-22 14:56:47 | 显示全部楼层 |阅读模式

      最近做项目,要用到js的加、减、乘、除的计算,发现js浮点数计算会有一些误差。

      网上有很多文章都有js浮点数计算误差的解决方法,说能解决这个问题,But……。比如一个加法函数,如下:

    1 function accAdd(arg1,arg2){ 
    2 var r1,r2,m; 
    3 try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
    4 try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
    5 m=Math.pow(10,Math.max(r1,r2)) 
    6 return (arg1*m+arg2*m)/m 
    7 }

        此方法在很多人的博客里都有,也有很多人转摘,不知道他们是否真正的使用了,真正的进行了测试,这个方法是不能解决所有js浮点数计算误差的,比如:alert(accAdd(268.34,0.83));

      由于项目要用,所以参考了一些思路与方法,对js的加、减、乘、除的精确计算方法进行了如下处理,废话不多说,代码如下:

    (function () {
        var calc = {
            /*
            函数,加法函数,用来得到精确的加法结果   
            说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 
            参数:arg1:第一个加数;arg2第二个加数;d要保留的小数位数(可以不传此参数,如果不传则不处理小数位数)
            调用:Calc.Add(arg1,arg2,d)   
            返回值:两数相加的结果
            */
            Add: function (arg1, arg2) {
                arg1 = arg1.toString(), arg2 = arg2.toString();
                var arg1Arr = arg1.split("."), arg2Arr = arg2.split("."), d1 = arg1Arr.length == 2 ? arg1Arr[1] : "", d2 = arg2Arr.length == 2 ? arg2Arr[1] : "";
                var maxLen = Math.max(d1.length, d2.length);
                var m = Math.pow(10, maxLen);
                var result = Number(((arg1 * m + arg2 * m) / m).toFixed(maxLen));
                var d = arguments[2];
                return typeof d === "number" ? Number((result).toFixed(d)) : result;
            },
            /*
            函数:减法函数,用来得到精确的减法结果   
            说明:函数返回较为精确的减法结果。  
            参数:arg1:第一个加数;arg2第二个加数;d要保留的小数位数(可以不传此参数,如果不传则不处理小数位数
            调用:Calc.Sub(arg1,arg2)   
            返回值:两数相减的结果
            */
            Sub: function (arg1, arg2) {
                return Calc.Add(arg1, -Number(arg2), arguments[2]);
            },
            /*
            函数:乘法函数,用来得到精确的乘法结果   
            说明:函数返回较为精确的乘法结果。  
            参数:arg1:第一个乘数;arg2第二个乘数;d要保留的小数位数(可以不传此参数,如果不传则不处理小数位数)
            调用:Calc.Mul(arg1,arg2)   
            返回值:两数相乘的结果
            */
            Mul: function (arg1, arg2) {
                var r1 = arg1.toString(), r2 = arg2.toString(), m, resultVal, d = arguments[2];
                m = (r1.split(".")[1] ? r1.split(".")[1].length : 0) + (r2.split(".")[1] ? r2.split(".")[1].length : 0);
                resultVal = Number(r1.replace(".", "")) * Number(r2.replace(".", "")) / Math.pow(10, m);
                return typeof d !== "number" ? Number(resultVal) : Number(resultVal.toFixed(parseInt(d)));
            },
            /*
            函数:除法函数,用来得到精确的除法结果   
            说明:函数返回较为精确的除法结果。  
            参数:arg1:除数;arg2被除数;d要保留的小数位数(可以不传此参数,如果不传则不处理小数位数)
            调用:Calc.Div(arg1,arg2)   
            返回值:arg1除于arg2的结果
            */
            Div: function (arg1, arg2) {
                var r1 = arg1.toString(), r2 = arg2.toString(), m, resultVal, d = arguments[2];
                m = (r2.split(".")[1] ? r2.split(".")[1].length : 0) - (r1.split(".")[1] ? r1.split(".")[1].length : 0);
                resultVal = Number(r1.replace(".", "")) / Number(r2.replace(".", "")) * Math.pow(10, m);
                return typeof d !== "number" ? Number(resultVal) : Number(resultVal.toFixed(parseInt(d)));
            }
        };
        window.Calc = calc;
    }());
    

      目前以上代码在项目中使用,还没有发现有什么问题。如果你觉得有问题或有具体的数据验证有问题,请联系!

     

    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2024-6-27 17:15 , Processed in 0.062326 second(s), 29 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表