Beräkningsområde och noggrannhet

Beräkningsområde och noggrannhet

Beräkningsområdet är ±10−99\displaystyle \pm 10^{-99} upp till ±9,999999999×1099\displaystyle \pm 9{,}999999999 \times 10^{99}, samt noll. Ett värde under 10 upphöjt till minus 99 räknas som noll. Inom området är svaren noggranna till ±1\displaystyle \pm 1 i sista siffran. Små fel kan byggas upp i långa beräkningar, i funktioner som yx\displaystyle y^x, x\displaystyle x-roten, fakultet, ex\displaystyle e^x och LN samt nära punkter där en funktion gör ett språng eller vänder.

▶ Se det här steget i videon (1:09:58)