Rango de cálculo y precisión

Rango de cálculo y precisión

El rango de cálculo va de ±10−99\displaystyle \pm 10^{-99} hasta ±9.999999999×1099\displaystyle \pm 9.999999999 \times 10^{99}, y cero. Un valor más pequeño se toma como cero. La precisión es de ±1\displaystyle \pm 1 en el último dígito. Pueden acumularse pequeños errores en los cálculos largos, dentro de funciones como yx\displaystyle y^{x},  x\displaystyle \sqrt[x]{\ }, factorial, ex\displaystyle e^{x} y LN, y cerca de los puntos donde una función salta o cambia de dirección.

▶ Vea este paso en el video (1:14:09)