计算范围和精度

计算范围和精度

计算范围是 ±10−99\displaystyle \pm 10^{-99} 到 ±9.999999999×1099\displaystyle \pm 9.999999999 \times 10^{99},以及 0\displaystyle 0。小于 10 的负 99 次方的值按零处理。在这个范围内,答案的精度是 最后一位 ±1\displaystyle \pm 1。在很长的计算中,在 yx\displaystyle y^{x}、x\displaystyle x 次方根、阶乘、ex\displaystyle e^{x} 和 ln⁡\displaystyle \ln 这样的函数里,以及在函数发生跳变或者转折的点附近,小的误差可能会累积。

▶ 在视频中观看此步骤 (1:03:04)