akun
akun
发布于 2025-03-21 / 0 阅读
0
0

解决不同位数小数相加精度不统一问题

解决思路:以最大精度为标准同化精度再计算

    addNum (num1, num2) {
      let sq1,sq2,m;
      try {
        sq1 = num1.toString().split(".")[1].length;
      }catch (e) {
        sq1 = 0;
      }
      try {
        sq2 = num2.toString().split(".")[1].length;
      }catch (e) {
        sq2 = 0;
      }
      m = Math.pow(10,Math.max(sq1, sq2));
      return (num1 * m + num2 * m) / m;
    },


评论