Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 776|回复: 0

JS数字计算精度问题解决

[复制链接]
  • TA的每日心情
    奋斗
    2024-11-24 15:47
  • 签到天数: 804 天

    [LV.10]以坛为家III

    2053

    主题

    2111

    帖子

    72万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    726782
    发表于 2021-7-4 11:11:02 | 显示全部楼层 |阅读模式
     1       add(a, b) {//相加
     2           var c, d, e;
     3           try {
     4             c = a.toString().split(".")[1].length;
     5           } catch (f) {
     6             c = 0;
     7           }
     8           try {
     9             d = b.toString().split(".")[1].length;
    10           } catch (f) {
    11             d = 0;
    12           }
    13           return e = Math.pow(10, Math.max(c, d)), (this.mul(a, e) + this.mul(b, e)) / e;
    14       },
    15       sub(a, b) {//相减
    16         var c, d, e;
    17         try {
    18           c = a.toString().split(".")[1].length;
    19         } catch (f) {
    20           c = 0;
    21         }
    22         try {
    23           d = b.toString().split(".")[1].length;
    24         } catch (f) {
    25           d = 0;
    26         }
    27         return e = Math.pow(10, Math.max(c, d)), (this.mul(a, e) - this.mul(b, e)) / e;
    28       },
    29       mul(a, b) {//主体
    30         var c = 0,
    31           d = a.toString(),
    32           e = b.toString();
    33         try {
    34           c += d.split(".")[1].length;
    35         } catch (f) { }
    36         try {
    37           c += e.split(".")[1].length;
    38         } catch (f) { }
    39         return Number(d.replace(".", "")) * Number(e.replace(".", "")) / Math.pow(10, c);
    40       },
    41       div(a, b) {//
    42         var c, d, e = 0,
    43           f = 0;
    44         try {
    45           e = a.toString().split(".")[1].length;
    46         } catch (g) { }
    47         try {
    48           f = b.toString().split(".")[1].length;
    49         } catch (g) { }
    50         return c = Number(a.toString().replace(".", "")), d = Number(b.toString().replace(".", "")), this.mul(c / d, Math.pow(10, f - e));
    51       }

    js在数字计算时,因为IEEE 754会有精度丢失,完善一下,需要用到哪个,只要mul和你用到的函数就OK

    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2024-12-23 04:39 , Processed in 0.128006 second(s), 27 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表