Számítási tartomány és pontosság

A számítási tartomány $\displaystyle \pm 10^{-99}$ és $\displaystyle \pm 9{,}999999999 \times 10^{99}$ között van, valamint a $\displaystyle 0$. A 10 a mínusz 99-ediken alatti értéket a gép nullának veszi. A tartományon belül az eredmények pontossága $\displaystyle \pm 1$ az utolsó számjegyben. Kis hibák halmozódhatnak fel hosszú számításokban, az olyan függvényekben, mint $\displaystyle y^{x}$, az $\displaystyle x$-edik gyök, a faktoriális, $\displaystyle e^{x}$ és $\displaystyle \ln$, valamint olyan pontok közelében, ahol a függvény ugrik vagy irányt vált.

▶ Nézze meg ezt a lépést a videóban (1:18:54)