运行项目,出现JS报错信息"RangeError: precision is out of range",天坑啊,我们来分析下解决方法。
描述
RangeError: precision {0} out of range (Firefox)
RangeError: toExponential() argument must be between 0 and 20 (Chrome)
RangeError: toFixed() digits argument must be between 0 and 20 (Chrome)
RangeError: toPrecision() argument must be between 1 and 21 (Chrome)
分析原因
以下的某个方法传入了一个超出精度范围的参数:
Number.prototype.toExponential() Number.prototype.toFixed() Number.prototype.toPrecision()
通常这些方法允许的参数范围介于0和20(或21)之间。需要注意的是,ECMAScript标准是允许扩展这个范围的。
Method | Firefox (SpiderMonkey) | Chrome, Opera (V8) |
---|---|---|
Number.prototype.toExponential() | 0 to 100 | 0 to 20 |
Number.prototype.toFixed() | -20 to 100 | 0 to 20 |
Number.prototype.toPrecision() | 1 to 100 | 1 to 21 |
DEMO
原来错误的写法:
77.1234.toExponential(-1); // RangeError 77.1234.toExponential(101); // RangeError 2.34.toFixed(-100); // RangeError 2.34.toFixed(1001); // RangeError 1234.5.toPrecision(-1); // RangeError 1234.5.toPrecision(101); // RangeError
修改下:
77.1234.toExponential(4); // 7.7123e+1 77.1234.toExponential(2); // 7.71e+1 2.34.toFixed(1); // 2.3 2.35.toFixed(1); // 2.4 (note that it rounds up in this case) 5.123456.toPrecision(5); // 5.1235 5.123456.toPrecision(2); // 5.1 5.123456.toPrecision(1); // 5
网友评论文明上网理性发言 已有0人参与
发表评论: