Maschinenzahl

Unter einer Maschinenzahl versteht man ein Zahl, die real im Computer in meist binärer Form gespeichert wird. Auf Grund der Darstellung in einer mehr oder weniger konkret vorgegebenen Speichereinheit (z. B. im Arbeitsspeicher) entsteht ein sehr endlicher Zahlenvorrat. Auf Grund dessen entstehen Rundungsfehler bei Operationen mit Maschinenzahlen, wenn das Ergebnis nicht zufälligerweise wieder genau eine Maschinenzahl trifft. Die üblichsten Maschinenzahlen sind die Gleitkomma- und die Festkommazahlen. Wie diese Zahlen konkret gespeichert werden können, ist teilweise genormt - z. B. IEEE 754.

Die Reduktionsabbildung wird wie folgt definiert, wobei $b$ die Basis, $m$ die Mantissenlänge und $d_{j}$ der Wert an der Stelle $j$ ist:

$fl(x):=\pm \left\{{\begin{matrix}\left(\sum _{j=1}^{m}d_{j}b^{-j}\right)\cdot b^{e}&{\mbox{falls}}\quad d_{m+1}<{\frac {b}{2}}\\\left(\sum _{j=1}^{m}d_{j}b^{-j}+b^{-m}\right)\cdot b^{e}&{\mbox{falls}}\quad d_{m+1}\geq {\frac {b}{2}}\end{matrix}}\right.$

Mit ihrer Hilfe kann der absolute Rundungsfehler bei der kodierung einer Zahl ermittelt werden.