为什么前端数值精度会丢失?(BigInt解决办法) |
您所在的位置：网站首页 › winload为什么会丢失 › 为什么前端数值精度会丢失?(BigInt解决办法) |
为什么前端数值精度会丢失?(BigInt解决办法)
|
相信各位前端小伙伴在日常工作中不免会涉及到使用 JavaScript 处理 数值 相关的操作，例如 数值计算、保留指定小数位、接口返回数值过大 等等，这些操作都有可能导致原本正常的数值在 JavaScript 中确表现得异常（即 精度丢失）。 精度丢失场景 浮点数的计算1、加法和减法 0.1 + 0.2 // 结果为 0.30000000000000004 0.3 - 0.1 // 结果为 0.19999999999999996 // 这是因为浮点数的二进制表示无法准确表示某些十进制小数，导致计算结果存在微小的误差。2、乘法和除法 0.1 * 0.2 // 结果为 0.020000000000000004 0.3 / 0.1 // 结果为 2.9999999999999996 // 在进行乘法和除法时，浮点数计算结果的精度问题更为突出，可能会产生更大的误差。3、比较运算 0.1 + 0.2 === 0.3 // 结果为 false // 直接比较浮点数可能会导致不准确的结果，因为计算结果的微小误差可能使它们不完全相等。 超过最值所谓 超过最值（最大、最小值） 指的是超过了 Number.MIN_SAFE_INTEGER（- 9007199254740991），即 +（2^53 – 1） 或 Number.MAX_SAFE_INTEGER（+ 9007199254740991），即 -（2^53 – 1） 范围的值，项目中最常见的就是如下几种情况：1 1、后端返回的数值超过最值 例一，后端返回的列表数据，通常都会有相应的 ID 来标识唯一性，但后端生成这个 ID 时是 Long 类型，那么该值很可能就会超过 JavaScript 中能表示的最大正整数，此时就导致精度丢失，即前端实际获取到的 ID 值和后端返回的将不一致。例二，后端可能需要将一些值通过计算之后，把对应的结果值返回给前端，此时若该值超过了 最值，那么也会产生精度丢失。2、前端进行数值计算时，计算结果超过最值
除了上述对涉及浮点数计算、超过最值的场景之外，我们通常还会对数值进行保留指定小数位的处理，而部分开发者可能会直接使用 Number.prototype.toFixed 来实现，但这个方法却并不能保证我们期望的效果，例如保留小数位时需要进行 四舍五入 时就会有问题，如下： console.log(1.595.toFixed(2)) // 1.59 ——> 期望为：1.60 console.log(1.585.toFixed(2)) // 1.58 ——> 期望为：1.59 console.log(1.575.toFixed(2)) // 1.57 ——> 期望为：1.58 console.log(1.565.toFixed(2)) // 1.56 ——> 期望为：1.57 console.log(1.555.toFixed(2)) // 1.55 ——> 期望为：1.56 console.log(1.545.toFixed(2)) // 1.54 ——> 期望为：1.55 console.log(1.535.toFixed(2)) // 1.53 ——> 期望为：1.54 console.log(1.525.toFixed(2)) // 1.52 ——> 期望为：1.53 console.log(1.515.toFixed(2)) // 1.51 ——> 期望为：1.52 console.log(1.505.toFixed(2)) // 1.50 ——> 期望为：1.51 精度丢失的原因计算机内部实际上只能 存储/识别 二进制，因此 文档、图片、数字 等都会被转换为 二进制，而对于数字而言，虽然我们看到的是 十进制 的表示结果，但实际上会底层会进行 十进制 和 二进制 的相互转换，而这个转换过程就有可能会出现 精度丢失，因为十进制转二进制后可能产生 无限循环 部分，而 实际存储空间是有限的。 由于计算机内部使用二进制浮点数表示法，而不是十进制。这种二进制表示法在某些情况下无法准确地表示某些十进制小数，从而导致精度丢失，如： 1、无法精确表示的十进制小数： 某些十进制小数无法准确地表示为有限长度的二进制小数。例如，0.1 和 0.2 这样的十进制小数在二进制表示中是无限循环的小数，因此在计算机内部以有限的位数进行表示时，会存在舍入误差，导致精度丢失。 2、舍入误差： 由于浮点数的位数是有限的，对于无法精确表示的十进制小数，计算机进行舍入来逼近其值。这种舍入操作会引入误差，并导致计算结果与预期值之间的差异。 Number.prototype.toFixed 的舍入：关于这个方法的舍入方式，目前最多的说法就是 银行家算法 ，的确在大多情况下确实能够符合 银行家算法 的规则，但是部分情况就并不符合其规则，因此严格意义上来讲 Number.prototype.toFixed 并不算是使用了 银行家算法。（银行家舍入：所谓银行家舍入法，其实质是一种四舍六入五取偶（又称四舍六入五留双）法。 简单来说就是：四舍六入五考虑，五后非零就进一，五后为零看奇偶，五前为偶应舍去，五前为奇要进一。具体解释见下文） 3、算术运算的累积误差： 在进行一系列浮点数算术运算时，舍入误差可能会累积并导致精度丢失。每一次运算都会引入一些误差，这些误差在多次运算中逐渐累积，导致最终结果的精度降低。 4、比较运算的不精确性： 由于浮点数的表示精度有限，直接比较浮点数可能会导致不准确的结果。微小的舍入误差可能使得两个看似相等的浮点数在比较时被认为是不等的。 5、数值范围的限制： 浮点数的表示范围是有限的，超出范围的数值可能会导致溢出或下溢，进而影响计算结果的精度。 银行家算法所谓银行家算法用一句话概括为：四舍六入五考虑，五后 有数 就进一，五后 无数 看 奇偶，五前 为偶当 舍去，五后 为奇要 进一 四舍 指保留位后的 数值 < 5 应 舍去，4 只是个代表值六入 指保留位后的 数值 > 5 应 进一，6 只是个代表值若保留位后的 数值 = 5，看 5 后 是否有数 若 5 后 无数，则看 5 前 的数值的 奇偶 来判断 若 5 前 的数值为 偶数，则 舍去若 5 前 的数值为 奇数，则 进一若 5 后 有数，则 进一 // 四舍 (1.1341).toFixed(2) = '1.13' // 六入 (1.1361).toFixed(2) = '1.14' // 五后 有数 ，进一 (1.1351).toFixed(2) = '1.14' // 五后 无数，看奇偶，五前为 3 奇数，进一 (1.1350).toFixed(2) = '1.14' // 五后 无数，看奇偶，五前为 0 偶数，舍去 (1.1050).toFixed(2) = '1.10'这样看起来没啥问题，但是： // 五后 有数，应进一 (1.1051).toFixed(2) = 1.11 （正确 √） (1.105).toPrecision(17) = '1.1050000000000000' // 精度 // 五后 无数，看奇偶，五前为 0 偶数，应舍去 (1.105).toFixed(2) = 1.10 （正确 √） // 五后 无数，看奇偶，五前为 2 偶数，应舍去 (1.125).toFixed(2) = 1.13 （不正确 ×） 1.125.toPrecision(17) = '1.1250000000000000' // 精度 // 五后 无数，看奇偶，五前为 4 偶数，应舍去 (1.145).toFixed(2) = 1.15 （不正确 ×） 1.145.toPrecision(17) = '1.1450000000000000' // 精度 // 五后 无数，看奇偶，五前为 6 偶数，应舍去 (1.165).toFixed(2) = 1.17 （不正确 ×） 1.165.toPrecision(17) = '1.1650000000000000' // 精度 // 五后 无数，看奇偶，五前为 8 偶数，应舍去 (1.185).toFixed(2) = 1.19 （不正确 ×） 1.185.toPrecision(17) = '1.1850000000000001' // 精度 ECMAScript 定义的 toFixed 标准
简单解释一下： 让 x = 目标数字，如：(1.145).toFixed(2) 中 x = 1.145 。让 f = 参数，如：(1.145).toFixed(2) 中 f = 2 。若 f = undefined，即 未传参，则将 f = 0 。若 f = Infinite，即传入了 无穷值，则抛出 RangeError 异常。若 f 100，即传入了不在 0 - 100 之间的值，则抛出 RangeError 异常。若 x = Infinite，即想要对 非准确值 保留位操作，则返回其 字符串形式。 例如，Infinity.toFixed(2) = 'Infinity'、NaN.toFixed(2) = 'NaN' 。让 x = 计算机所能表示的数学值 ℝ(x) 从 数字 或 BigInt x 到 数学值 的转换表示为 x 的数学值，或 ℝ（x）让 返回值符号 s = ''，即为符号定义 初始值 。若 x =0;i--){ a[i]=parseInt(a[i])+1; if(a[i]==10){ a[i]=0; b=i!=1; }else break; } } s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2"); }if(b)s=s.substr(1); return (pm+s).replace(/\.$/,""); }return this+""; } 注意数值范围： 在进行浮点数计算时，要注意数值的范围。超出浮点数表示范围的数值可能会导致精度丢失或溢出的问题。参考文章： 线上紧急Bug：80%前端可能会遇到的数据精度问题 后端问为什么前端数值精度会丢失？ - 掘金 math.js是如何处理小数问题的 - 掘金 探寻 JavaScript 精度问题以及解决方案 - 掘金 【JS】关于精度丢失，产生的原因以及解决方案_js 加法丢失精度_swimxu的博客-CSDN博客 |
【本文地址】
今日新闻 |
推荐新闻 |