Plage de calcul et précision

Plage de calcul et précision

La plage de calcul va de ±10−99\displaystyle \pm 10^{-99} à ±9,999999999×1099\displaystyle \pm 9{,}999999999 \times 10^{99}, et 0\displaystyle 0. Une valeur plus petite est considérée comme nulle. La précision est de ±1\displaystyle \pm 1 sur le dernier chiffre. De petites erreurs peuvent s'accumuler dans les calculs en chaîne, à l'intérieur de fonctions comme yx\displaystyle y^{x}, racine x\displaystyle x-ième, factorielle, ex\displaystyle e^{x} et LN, et près des points où une fonction saute ou change de direction.

▶ Voir cette étape dans la vidéo (1:09:26)