2.8.1 Ganzzahlarithmetik
Bei Ganzzahldivisionen werden alle Ergebnisse abgerundet.
Option a.) ist hier die optimale Lösung da der Rundungsfehler relativ gesehen am kleinsten ist wenn man zuerst multipliziert um dann eine möglichst große Zahl zu teilen.
Option c.) ist schlecht, da da 5/4 schon innerhalb der Klammer auf 1 abgerundet wird.
Option b.) ist ebenfalls schlecht da 6/4 ebenfalls auf 1 abgerundet wird
Implementierung | Ergebnis | |
---|---|---|
. |
int a = 0; int b = 6; a = b*5/4; a = b/4*5; a = b*(5/4); |
. . a=7 a=5 a=6 |
Die Variable b ist sehr groß b= 230:
- Option b.) ist vorteilhaft.
- Hier wird die Multiplikation zum Risiko. Der maximale 32 Bit Ganzzahlwert (231-1) kann bei Option a.) und b.) überschritten werden. Der Überlauf wird vom Laufzeitsystem nicht gemeldet und das Ergebnis ist falsch da negativ. Ein Überlauf des Wertebereichs durch die Mutiplkation ist wahrscheinlich schlimmer als ein Rundungsfehler durch eine frühe Division.
2.8.2 Sichere Zuweisungen
Konsolenausgaben:
a_short=32765
a_int=2147483645
a_long=9223372036854775805
short auf float= 32765.0 (OK)
int auf float= 2.14748365E9(Fehler)
long auf float= 9.223372E18(Fehler)
short auf double= 32765.0 (OK)
int auf double= 2.147483645E9(OK)
long auf double= 9.223372036854776E18(Fehler)
Die Mantisse des Typ float ist nicht groß genug um extrem große (oder kleine) Werte des Typs int und long präzise zu verwalten.
Die Mantisse des Typ double ist nicht groß genug, um extrem große (oder kleine) Werte des Typs long präzise zu verwalten.
- Printer-friendly version
- Log in to post comments
- 4302 views