博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
js小数点相乘或相除出现多位数的问题
阅读量:6342 次
发布时间:2019-06-22

本文共 3067 字,大约阅读时间需要 10 分钟。

最近做一个支付的项目需要做个计算器,所以发现了一个问题。

比如:

0.03/0.00003=999.9999999999999

0.0003*0.3=0.000029999999999999997

0.1+0.2=0.30000000000000004

等...

 

后面查了一下发现原因是:

浮点数值的最高进度是17位小数,但在进行运算的时候其精确度却远远不如整数;整数在进行运算的时候都会转成10进制; 而Java和JavaScript中计算小数运算时,都会先将十进制的小数换算到对应的二进制,一部分小数并不能完整的换算为二进制,这里就出现了第一次的误差。待小数都换算为二进制后,再进行二进制间的运算,得到二进制结果。然后再将二进制结果换算为十进制,这里通常会出现第二次的误差。

所以(0.1+0.2)!=03

 

 

直接贴上个方法:

function toDecimal2(x,ss) {       var f = parseFloat(x);       if (isNaN(f)) {         return false;       }       var f = Math.round(x*100)/100;       var s = f.toString();       var rs = s.indexOf('.');       if (rs < 0) {         rs = s.length;         s += '.';       }       while (s.length <= rs + ss) {         s += '0';       }       return s;     } function bcFixed(num, s) {    var times = Math.pow(10, s)    var des = num * times + 0.5    des = parseInt(des, 10) / times    return toDecimal2(des,s)+'';}/** * 加法运算,避免数据相加小数点后产生多位数和计算精度损失。 * * @param num1加数1 | num2加数2 */function bcadd(num1, num2,s) { var baseNum, baseNum1, baseNum2,ret; try {  baseNum1 = num1.toString().split(".")[1].length; } catch (e) {  baseNum1 = 0; } try {  baseNum2 = num2.toString().split(".")[1].length; } catch (e) {  baseNum2 = 0; } baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));	ret=(num1 * baseNum + num2 * baseNum) / baseNum; return bcFixed(ret,s);};/** * 加法运算,避免数据相减小数点后产生多位数和计算精度损失。 * * @param num1被减数  |  num2减数 */function bcsub(num1, num2,s) { var baseNum, baseNum1, baseNum2,ret; var precision;// 精度 try {  baseNum1 = num1.toString().split(".")[1].length; } catch (e) {  baseNum1 = 0; } try {  baseNum2 = num2.toString().split(".")[1].length; } catch (e) {  baseNum2 = 0; } baseNum = Math.pow(10, Math.max(baseNum1, baseNum2)); precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;ret=((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision); return bcFixed(ret,s);};/** * 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。 * * @param num1被乘数 | num2乘数 */function bcmul(num1, num2,s) { var baseNum = 0,ret; try {  baseNum += num1.toString().split(".")[1].length; } catch (e) { } try {  baseNum += num2.toString().split(".")[1].length; } catch (e) { } ret=Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum); return bcFixed(ret,s);};/** * 除法运算,避免数据相除小数点后产生多位数和计算精度损失。 * * @param num1被除数 | num2除数 */function bcdiv(num1, num2,s) { var baseNum1 = 0, baseNum2 = 0,ret; var baseNum3, baseNum4; try {  baseNum1 = num1.toString().split(".")[1].length; } catch (e) {  baseNum1 = 0; } try {  baseNum2 = num2.toString().split(".")[1].length; } catch (e) {  baseNum2 = 0; } with (Math) {  baseNum3 = Number(num1.toString().replace(".", ""));  baseNum4 = Number(num2.toString().replace(".", ""));  ret=(baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1); return bcFixed(ret,s); }};

  

调用方法:(后面的s为显示小数点后几位,比如s为0时显示整数,2为显示两位小数,比如2.00)

加法:bcadd(num1, num2,s) //如:1+2为 bcadd(1, 2,2)

减法:bcsub(num1, num2,s) //如:1-2为 bcsub(1, 2,2)

乘法:bcmul(num1, num2,s) //如:1*2为 bcmul(1, 2,2)

除法:bcdiv(num1, num2,s)  //如:1/2为 bcdiv(1, 2,s)

转载于:https://www.cnblogs.com/gxsyj/p/9397440.html

你可能感兴趣的文章
在MapGuide 的Fusion Viewer的选择面板中显示超链接
查看>>
CentOS7下单机部署RabbltMQ环境的操作记录
查看>>
unity shader tags
查看>>
挺有意思的,队列,先进先出,排队进行!
查看>>
错误:“产品订单的调度参数没有被定义”
查看>>
机器视觉在带钢针孔检测中的应用
查看>>
ASP.NET WEB API 调试
查看>>
使用wget命令进行整站下载
查看>>
解读volatile
查看>>
zookeeper安装部署
查看>>
centos6——初始化脚本
查看>>
linux I/O优化 磁盘读写参数设置
查看>>
中断处理 I/O内存
查看>>
Java中的transient关键字
查看>>
私有网盘nextcloud 12的问题处理及优化
查看>>
思科设备VLAN之间通信配置
查看>>
mysql排错 (一)
查看>>
20160318作业
查看>>
关于MySQL的几点安全配置
查看>>
zabbix监控H3C的接口流量
查看>>