浮点精度 加减乘除 原生方法
2021/12/18 23:23:55
本文主要是介绍浮点精度 加减乘除 原生方法,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
关于JavaScript
二进制精度问题,浮点数的计算精度会存在缺失问题。
专门去百度了一下解决方案,发现有的不是很全,再不就是在项目里面使用会报错(不支持with用法)等等问题。所以针对这四个方法 自己 写了一下。
一般我们是放在utils或者commonJS;或者基于这四个再封装成一个函数进行调用;
加法函数:
/** ** 加法函数,用来得到精确的加法结果 ** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 ** 调用:accAdd(arg1,arg2) ** 返回值:arg1加上arg2的精确结果 **/ export function accAdd(arg1, arg2) { let r1, r2, m, n; let reg = /^\d+$|^\d+[.]?\d+$/; if(reg.test(arg1) && reg.test(arg2)) { r1 = arg1.toString(); r2 = arg2.toString(); } else { return false //请输入数字 } if(r1.indexOf('.') !=-1) { m = r1.split('.')[1].length; } else { m = 0 } if(r2.indexOf('.') !=-1) { n = r2.split('.')[1].length; } else { n = 0 } m = Math.pow(10, Math.max(m, n)) return (arg1 * m + arg2 * m) / m }
减法函数:
/** ** 减法函数,用来得到精确的减法结果 ** 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。 ** 调用:accSub(arg1,arg2) ** 返回值:arg1加上arg2的精确结果 **/ export function accSub(arg1, arg2) { let r1, r2, m, n, t1, t2; let reg = /^\d+$|^\d+[.]?\d+$/; if(reg.test(arg1) && reg.test(arg2)){ r1 = arg1.toString(); r2 = arg2.toString(); } else { return false //请输入数字 } if(r1.indexOf('.') !=-1) { t1 = r1.split('.')[1].length; } else { t1 = 0 } if(r2.indexOf('.') !=-1) { t2 = r2.split('.')[1].length; } else { t2 = 0 } m = Math.pow(10, Math.max(t1, t2)); n = t1 >= t2 ? t1 : t2; return ((arg1 * m - arg2 * m) / m).toFixed(n); }
乘法函数:
/** ** 乘法函数,用来得到精确的乘法结果 ** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 ** 调用:accMul(arg1,arg2) ** 返回值:arg1乘以 arg2的精确结果 **/ export function accMul(arg1, arg2) { let r1, r2; let m = 0 let reg = /^\d+$|^\d+[.]?\d+$/; if(reg.test(arg1) && reg.test(arg2)){ r1 = arg1.toString(); r2 = arg2.toString(); } else { return false //请输入数字 } m += r1.split('.')[1] ? r1.split('.')[1].length : 0; m += r2.split('.')[1] ? r2.split('.')[1].length : 0; return (Number(r1.replace('.', '')) * Number(r2.replace('.', ''))) / Math.pow(10, m) }
除法函数:
/** ** 除法函数,用来得到精确的除法结果 ** 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 ** 调用:accDiv(arg1,arg2) ** 返回值:arg1除以arg2的精确结果 **/ export function accDiv(arg1, arg2) { let r1, r2, m1, m2, t1, t2; let reg = /^\d+$|^\d+[.]?\d+$/; if(reg.test(arg1) && reg.test(arg2)){ r1 = arg1.toString(); r2 = arg2.toString(); } else { return false //请输入数字 } if(r1.indexOf('.') !=-1) { m1 = r1.split('.')[1].length } else { m1 =0 } if(r2.indexOf('.') !=-1) { m2 = r2.split('.')[1].length } else { m2 = 0 } t1 = Number(r1.replace('.', '')) t2 = Number(r2.replace('.', '')) return (t1 / t2) * Math.pow(10, m2 - m1) }
^-^ (if else 可能有点多,便于理解。)
这篇关于浮点精度 加减乘除 原生方法的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-05-15鸿蒙生态设备数量超8亿台
- 2024-05-13TiDB + ES:转转业财系统亿级数据存储优化实践
- 2024-05-09“2024鸿蒙零基础快速实战-仿抖音App开发(ArkTS版)”实战课程已上线
- 2024-05-09聊聊如何通过arthas-tunnel-server来远程管理所有需要arthas监控的应用
- 2024-05-09log4j2这么配就对了
- 2024-05-09nginx修改Content-Type
- 2024-05-09Redis多数据源,看这篇就够了
- 2024-05-09Google Chrome驱动程序 124.0.6367.62(正式版本)去哪下载?
- 2024-05-09有没有大佬知道这种数据应该怎么抓取呀?
- 2024-05-09这种运行结果里的10.100000001,怎么能最快改成10.1?