La plage de calcul va de ±10−99 à ±9,999999999×1099, et 0. Une valeur plus petite est considérée comme nulle.La précision est de ±1 sur le dernier chiffre. De petites erreurs peuvent s'accumuler dans les calculs en chaîne, à l'intérieur de fonctions comme yx, racine x-ième, factorielle, ex et LN, et près des points où une fonction saute ou change de direction.