toFixed()与银行家舍入

更新日期: 2021-01-16 阅读: 2k 标签: 运算
一直在用toFixed()方法做浮点数的舍入取值,如果只是客户端展示数据是没有多大问题的,但是如果涉及到和后端互交,数据的精度可能会导致接口对接失败,当然了,涉及安全性的数值,比如金额之类的不应该放在前端计算,应该以后端为准,少数情况下如果需要的时候,则需要修复其精度


1.出现问题的场景

首先,我们发现在ie浏览器与其他的主流浏览器中,由于二进制下浮点数的存储问题,toFixed()的行为是不一样的,也说明了各浏览器厂家的做法不一致。

在ie11中:

0.015.toFixed(2)
// 打印结果:"0.02"

在chrome中:

0.015.toFixed(2)
// 打印结果:"0.01"
对于此类问题,部分场景是不可接受的,测试可能会打出一个兼容性的bug

其次,我们虽然知道,toFixed()是一种银行家舍入,但是他确是入五取单,而不是银行家舍入所说的入五取双,同样是银行家舍入,此函数计算精度与后台java等语言的银行家舍入精度不同,可能照成接口验证失败。

在前端浏览器中:

0.025.toFixed(2)
// 打印结果:"0.03"
0.035.toFixed(2)
// 打印结果:"0.03"

在后端服务器中:

0.025.setScale(2,RoundingMode.HALF_EVEN)
// 打印结果:"0.02"
0.035.setScale(2,RoundingMode.HALF_EVEN)
// 打印结果:"0.04"
事实上,正确的做法应该是:有关金额的运算应该完全交由后端计算,然后交给前端展示


2.修复方案

方案很简单,我们只要重写Number.prototype.toFixed方法就可以了。

如果我们需要普通的四舍五入:

/* eslint-disable no-extend-native */ // 规避eslint不可修改原型报错
Number.prototype.originalToFixed = Number.prototype.toFixed // 保留原方法
Number.prototype.toFixed = function(length = 0) { // 默认保留0位小数
  let result
  const thisNum = this * Math.pow(10, length) // 将数据化为整数,方便处理
  const thisNumList = thisNum.toString().split('.') // 分离整数与小数
  if (thisNumList.length === 1) result = thisNum.toString() // 如果只有整数,则不需要处理
  else {
    if (Number(thisNumList[1][0]) >= 5) result = (Number(thisNumList[0]) + 1).toString() // 五入
    else (Number(thisNumList[1][0]) < 5) result = thisNumList[0] // 四舍
  }
  if (length === 0) return result
  else {
    while (result.length < length + 1) { // 如果位数不够,则用0补齐
      result = '0' + result
    }
    return result.slice(0, (result.length - length)) + '.' + result.slice(result.length - length)
  }
}

如果我们需要使用正常的银行家舍入:

/* eslint-disable no-extend-native */ // 规避eslint不可修改原型报错
Number.prototype.originalToFixed = Number.prototype.toFixed // 保留原方法
Number.prototype.toFixed = function(length = 0) { // 默认保留0位小数
  let result
  const thisNum = this * Math.pow(10, length) // 将数据化为整数,方便处理
  const thisNumList = thisNum.toString().split('.') // 分离整数与小数
  if (thisNumList.length === 1) result = thisNum.toString() // 如果只有整数,则不需要处理
  else {
    if (Number(thisNumList[1][0]) > 5) result = (Number(thisNumList[0]) + 1).toString() // 六入
    else if (Number(thisNumList[1][0]) < 5) result = thisNumList[0] // 四舍
    else { // 判断5的情况
      if (thisNumList[1].length > 1) result = (Number(thisNumList[0]) + 1).toString() // 如果5后还有位数则入
      else {
        if (Number(thisNumList[0][thisNumList[0].length - 1]) % 2 === 0) result = thisNumList[0] // 五前为偶应舍去
        else result = (Number(thisNumList[0]) + 1).toString() // 五前为奇要进一
      }
    }
  }
  if (length === 0) return result
  else {
    while (result.length < length + 1) { // 如果位数不够,则用0补齐
      result = '0' + result
    }
    return result.slice(0, (result.length - length)) + '.' + result.slice(result.length - length)
  }
}

这样就统一了舍入的精度,可以根据后台需要选择。

原文来自:https://www.cnblogs.com/qinyuandong/archive/2021/01/16/14285926.html

本文内容仅供个人学习、研究或参考使用,不构成任何形式的决策建议、专业指导或法律依据。未经授权,禁止任何单位或个人以商业售卖、虚假宣传、侵权传播等非学习研究目的使用本文内容。如需分享或转载,请保留原文来源信息,不得篡改、删减内容或侵犯相关权益。感谢您的理解与支持!

链接: https://fly63.com/article/detial/10068

相关推荐

Js es6中扩展运算符(...)

拓展运算符,是es6一个很好的特性,它们可以通过减少赋值语句的使用,或者减少通过下标访问数组或对象的方式,使代码更加简洁优雅,可读性更佳。下面我将列出拓展运算符的主要应用场景,以及相关知识。

js除了Math.floor方法,还可以通过位运算|,>>实现向下取整

我们都知道通过Math.floor()方法可实现数值的向下取整,得到小于或等于该数字的最大整数。除了Math.floor方法,还可以使用位运算|,>>来实现向下取整哦

JS中三个点(...)

我们在看js代码时经常会出现(...)三个点的东西,它究竟是什么意思?又有何用处?下面我就给大家分享一下三个点的那些事

js各种取整方式及方法_四舍五入、向上取整、向下取整

js实现:四舍五入、向上取整、向下取整等方法。parseInt、Math.ceil、Math.round、Math.floor、toFixed等的使用

js取反运算

取反运算形式上是一个感叹号,用于将布尔值变为相反值,即true变成false,false变成true。不管X是什么类型的值,经过两次取反运算后,变成了与Boolean函数结果相同的布尔值。所以,两次取反就是将一个值转成布尔值的简便写法。

js中使用位运算,让执行效率更高

平常的数值运算,其本质都是先转换成二进制再进行运算的,而位运算是直接进行二进制运算,所以原则上位运算的执行效率是比较高的,由于位运算的博大精深,下面通过一些在js中使用位运算的实例

js 检验四则运算字符串是否合法

是可以通过检验的,并且在js中也是按数学表达式计算结果的, 但是这个算不算“合格”的数学表达式呢?这个就看具体情况了吧,要规避也比较简单

JS怎样做四舍五入?

toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。例如将数据Num保留2位小数,则表示为:toFixed(Num);但是其四舍五入的规则与数学中的规则不同,使用的是银行家舍入规则

巧用JS位运算

位运算的方法在其它语言也是一样的,不局限于JS,所以本文提到的位运算也适用于其它语言。位运算是低级的运算操作,所以速度往往也是最快的

JavaScript 中的相等操作符 ( 详解 [] == []、[] == ![]、{} == !{} )

ECMAScript 中的相等操作符由两个等于号 ( == ) 表示,如果两个操作数相等,则返回 true。相等操作符会先转换操作数(通常称为强制转型),然后比较它们的相等性。

点击更多...

内容以共享、参考、研究为目的,不存在任何商业目的。其版权属原作者所有,如有侵权或违规,请与小编联系!情况属实本人将予以删除!