Genauigkeit von Gleitpunktzahlen

Betrachten Sie die Schreibweise des Wertes 1/3 in der Dezimalnotation:

0.33333333333333333333333333333333333333333333333333333333333333333

Das Ergebnis ist unendlich. Es gibt kein Obergrenze für die Anzahl der erforderlichen 3-er. Der float-Datentyp hat nur 32 Bit, nicht genug um eine unbegrenzte Anzahl von Dreiern darzustellen.

Der Datentyp float hat 23 Bits für die Genauigkeit. (Die restlichen der 32 Bits werden verwendet um die Größe der Zahl anzugeben.) Das entspricht einer Genauigkeit von nur 8 Dezimalstellen.

Die Anzahl der Dezimalstellen für die Genauigkeit ist bei float immer die gleiche, ganz egal wie groß die Zahl ist. Der Datentyp float kann Zahlen bis zu einer Größe von ungefähr 3.4E+38 darstellen. Aber die Genauigkeit dieser großen Zahlen wird ebenfalls ungefähr 8 Dezimalstellen betragen.

Denken Sie daran: Der Datentyp float hat ungefähr den Wertebereich und die Genauigkeit eines preiswerten elektronischen Taschenrechners. Das reicht für gewöhnlich nicht aus.

1230.00089F