分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 教程案例

js 浮点小数计算精度问题 parseFloat 精度问题

发布时间:2023-09-06 02:32责任编辑:赖小花关键词:js

在js中进行以元为单位进行金额计算时 使用parseFloat会产生精度问题
var price = 10.99;
var quantity = 7;
var needPay = parseFloat(price * quantity);

needPay的正确结果应该是76.93元  但是运行后发现needPay为76.93000000000001 
此情况可通过 toFixed(n)  方法修正 但是这个方法对 js版本要求较高 不能兼容ie5

另一个解决方案是: 将元为单位的金额乘以100换算为分进行计算

var price = 10.99
var quantity = 7
var needPay = Math.floor(parseFloat(price*100 * quantity))/100;

parseFloat(price*100 * quantity)的计算结果是7693.000000000001   使用Math.round()方法四舍五入,再除100  即为正确的结果

PS:顺便学到了一点:Math.ceil() Math.floor() Math.round() 的区别
Math.ceil() 是向上取整
Math.floor()是向下取整
Math.round()是四舍五入

 ???????//保留两位小数 ??????????//功能:将浮点数四舍五入,取小数点后2位 ?????????function toDecimal(x) { ?????????????var f = parseFloat(x); ?????????????if (isNaN(f)) { ?????????????????return; ?????????????} ?????????????f = Math.round(x*100)/100; ?????????????return f; ?????????} ?????????????//制保留2位小数,如:2,会在2后面补上00.即2.00 ?????????function toDecimal2(x) { ?????????????var f = parseFloat(x); ?????????????if (isNaN(f)) { ?????????????????return false; ?????????????} ?????????????var f = Math.round(x*100)/100; ?????????????var s = f.toString(); ?????????????var rs = s.indexOf(‘.‘); ?????????????if (rs < 0) { ?????????????????rs = s.length; ?????????????????s += ‘.‘; ?????????????} ?????????????while (s.length <= rs + 2) { ?????????????????s += ‘0‘; ?????????????} ?????????????return s; ?????????} ???????????????????function fomatFloat(src,pos){ ?????????????????return Math.round(src*Math.pow(10, pos))/Math.pow(10, pos); ????????????} ?????????//四舍五入 ?????????alert("保留2位小数:" + toDecimal(3.14159267)); ?????????alert("强制保留2位小数:" + toDecimal2(3.14159267)); ?????????alert("保留2位小数:" + toDecimal(3.14559267)); ?????????alert("强制保留2位小数:" + toDecimal2(3.15159267)); ?????????alert("保留2位小数:" + fomatFloat(3.14559267, 2)); ?????????alert("保留1位小数:" + fomatFloat(3.15159267, 1)); ???????????????????//五舍六入 ?????????alert("保留2位小数:" + 1000.003.toFixed(2)); ?????????alert("保留1位小数:" + 1000.08.toFixed(1)); ?????????alert("保留1位小数:" + 1000.04.toFixed(1)); ?????????alert("保留1位小数:" + 1000.05.toFixed(1)); ???????????????????//科学计数 ?????????alert(3.1415.toExponential(2)); ?????????alert(3.1455.toExponential(2)); ?????????alert(3.1445.toExponential(2)); ?????????alert(3.1465.toExponential(2)); ?????????alert(3.1665.toExponential(1)); ?????????//精确到n位,不含n位 ?????????alert("精确到小数点第2位" + 3.1415.toPrecision(2)); ?????????alert("精确到小数点第3位" + 3.1465.toPrecision(3)); ?????????alert("精确到小数点第2位" + 3.1415.toPrecision(2)); ?????????alert("精确到小数点第2位" + 3.1455.toPrecision(2)); ?????????alert("精确到小数点第5位" + 3.141592679287.toPrecision(5)); 

  

js 浮点小数计算精度问题 parseFloat 精度问题

原文地址:https://www.cnblogs.com/zuobaiquan01/p/10363212.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved