问题

js进行固定数值的小数相加,出现了多位小数,如图所示:
在这里插入图片描述
结果:
在这里插入图片描述

原因

Javascript的数字类型以64位的IEEE 754格式存储,对小数运算会先转成二进制,运算完毕再转回十进制,过程中可能会导致数值丢失的问题

解决

  1. 将运算的结果直接保留指定位数的小数,如:
var a = 0.1 + 0.2;
a = a.toFixed(2);//保留两位小数
但是要注意的是,a在转换成指定小数位后,类型变成了string
  1. 将数字扩大到整数倍,进行运算后,再恢复成原来的位数,如:
var a = (0.01 * 100 + 0.02 * 100)/100;
Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐