分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 运营维护

js 浮点数计算Bug

发布时间:2023-09-06 01:57责任编辑:沈小雨关键词:js

之前在写项目时候,直接对带小数点的数据进行运算,发现所得到的值并不是自己想要的。

经过一系列学习后,发现在JavaScript中,浮点数运算都是先转换成二进制,在转成二进制的时候有出现无限循环小数,故之后的运算都出现了问题(这是基于IEEE754数值的浮点计算的通病)。

因此,就翻阅了前公司的js工具库,找到一些用于运算的函数。

// 加法function accAdd(arg1,arg2){ ????var r1,r2,m; ????try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} ????try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} ????m=Math.pow(10,Math.max(r1,r2)) ????return ((arg1*m+arg2*m)/m).toFixed(2); ??}// 除法function accDiv(arg1,arg2){ ??var t1=0,t2=0,r1,r2; ??try{t1=arg1.toString().split(".")[1].length}catch(e){} ??try{t2=arg2.toString().split(".")[1].length}catch(e){} ??with(Math){ ??r1=Number(arg1.toString().replace(".","")) ??r2=Number(arg2.toString().replace(".","")) ??return (r1/r2)*pow(10,t2-t1); ?}}// 乘法function accMul(arg1,arg2){ ??var m=0,s1=arg1.toString(),s2=arg2.toString(); ??try{m+=s1.split(".")[1].length}catch(e){} ??try{m+=s2.split(".")[1].length}catch(e){} ??return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)}// 减法function accSubtr(arg1,arg2){ ??var r1,r2,m,n; ??try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} ??try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} ??m=Math.pow(10,Math.max(r1,r2)); ??//动态控制精度长度 ??n=(r1>=r2)?r1:r2; ??return ((arg1*m-arg2*m)/m).toFixed(n);}

  找到这些工具函数,当有想加强这些函数的想法。比如当函数不只两个的时候。

于是,在我的脑海就出现了两个念头,可实现其效果。

1. 参数过多的时候,一遍一遍的递归自己(这个方法就不写了,反正就是递归)。

2. 重构这个工具函数

// 加法function accAdd() { ???let arr = Array.prototype.slice.call(arguments); ???let num = 0; ???arr.map(res => { ???????let r1, r2, m; ???????try { r1 = res.toString().split(".")[1].length } catch (e) { r1 = 0 }; ???????try { r2 = num.toString().split(".")[1].length } catch (e) { r2 = 0 }; ???????m = Math.pow(10, Math.max(r1, r2)); ???????num = (res * m + num * m) / m ???}); ???return num;}

  

// 减法function accSubtr() { ??let arr = Array.prototype.slice.call(arguments); ??let num = arr[0]; ??arr.shift(); ??arr.map(res => { ???????let r1, r2, m, n; ???????try { r1 = res.toString().split(".")[1].length } catch (e) { r1 = 0 }; ???????try { r2 = num.toString().split(".")[1].length } catch (e) { r2 = 0 }; ???????m = Math.pow(10, Math.max(r1, r2)); ???????n = (r1 >= r2) ? r1 : r2; ???????num = ((num * m - res * m) / m).toFixed(n); ???}); ????return num; ?}

  

js 浮点数计算Bug

原文地址:https://www.cnblogs.com/tzzf/p/9119309.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved