2018-03-29 17:20 by 木白先生, … 阅读, … 评论, 收藏, 编辑

  • javascript中的数字都是双精度的浮点数。
  • JavaScript中的整数并不是一个独立的数据类型，而是浮点数的一个子集。

　　

浮点数的坑
我们看下面的例子

在浏览器的console 控制台上我们分别进行以下的浮点数运算

通过控制台的运算，我们可以很惊奇的看到答案，有些运算结果竟然和我们想像的不一样，比如0.1+0.2的返回结果不是0.3，而是0.30000000000000004。

这究竟是啥原因？
1，首先要肯定的是这不是浏览器的问题，而是由于浮点数的精度导致的。
2，浮点数的精度问题并不是JavaScript所独有的，例如在java中，我们运行以下代码，同样会输出和JavaScript中一样的结果。

  1. double dd = 0.1+0.2;
  2. System.out.println(dd);//0.30000000000000004?

why?
因为电脑永远都是按照二进制进行运算的，我们输入的十进制数在转化为二进制数时，并不总如人意，意思是说有些十进制并不能用准确的二进制数表示。

十进制小树转二进制表示

我们来看下十进制小树转二进制表示的过程，小数位乘以2，取整，小数部分继续乘以2，再取整，直到小数部分为0为止，然后将取整位按顺序排列。

由此方法我们可以看到以下一些十进制小数的二进制表示。

  1.  十进制     二进制
  2.  0.1        0.0001 1001 1001 1001 ...
  3.  0.2           0.0011 0011 0011 0011 ...
  4.  0.3        0.0100 1100 1100 1100 ...
  5.  0.4        0.0110 0110 0110 0110 ...
  6.  0.5        0.1
  7.  0.6        0.1001 1001 1001 1001 ...

我们发现有些小数的二进制表示位数是无限循环的，这就造成了浮点数精度上的问题。

比如十进制的1.1，在用二进制表示的时因为存在二进制位无限循环的表示，实际值为1.0999999999…无限接近与1.1

 

 解决方案

常用的一种解决方法就是将浮点数转化为整数进行运算，以下是一些封装好的关于浮点运算的方法，而且经过测试，加减乘除运算都会达到自己想要的结果。

  1.  //求和
  2.  function add(num1,num2){
  3.      var r1,r2,m;
  4.      try{
  5.          r1 = num1.toString().split('.')[1].length;
  6.      }catch(e){
  7.          r1 = 0
  8.      }
  9.      try{
  10.          r2 = num2.toString().split('.')[1].length;
  11.      }catch(e){
  12.          r2 = 0
  13.      }
  14.      m = Math.pow(10,Math.max(r1,r2));
  15.      return Math.round(num1*m + num2*m)/m;
  16.  }
  1. //相减
  2.  function sub(num1,num2){
  3.      var r1,r2,m;
  4.     try{
  5.         r1 = num1.toString().split('.')[1].length;
  6.     }catch(e){
  7.         r1 = 0;
  8.     }
  9.     try{
  10.         r2 = num1.toString().split('.')[1].length;
  11.     }catch(e){
  12.         r2 = 0;
  13.     }
  14.     m = Math.pow(10,Math.max(r1,r2));
  15.     n = (r1 >= r2) ? r1 : r2;
  16.     return (Math.round(num1 * m - num2*m) / m).toFixed(n);
  17.  }
  1. //相乘
  2.  function mul(num1,num2){
  3.      var m = 0,r1,r2;
  4.      var s1 = num1.toString();
  5.      var s2 = num2.toString();
  6.      try{
  7.          m += s1.split('.')[1].length
  8.      }catch(e){
  10.      }
  11.      try{}catch(e){
  12.          m += s2.split('.')[1].length
  13.      }catch(e){
  15.      }
  16.      r1 = Number(num1.toString().replace(".",""));
  17.      r2 = Number(num2.toString().replace(".",""));
  18.      return r1 * r2 / Math.pow(10,m);
  19.  }
  1.  //相除
  2.  function accDiv(){
  3.       var t1,t2,r1,r2;
  4.      try{
  5.          t1 = num1.toString().split('.')[1].length;
  6.      }catch(e){
  7.          t1 = 0;
  8.      }
  9.      try{}catch(e){
  10.          t2 = num2.toString().split('.')[1].length;
  11.      }catch(e){
  12.          t2 = 0;
  13.      }
  14.      r1 = Number(num1.toString().replace(".",""));
  15.      r2 = Number(num2.toString().replace(".",""));
  16.      return (r1 / r2)*Math.pwo(10,t2-t1);
  17.  }

 

版权声明：本文为bairuihan原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://www.cnblogs.com/bairuihan/p/8671100.html