Programmieren - alles kontrollieren 4.937 Themen, 20.662 Beiträge

Variablenbereich zu klein?

JonasSchwartze / 3 Antworten / Flachansicht Nickles

Hallo Leute!


Ich programmiere im Delphi und hab ne Extended Variable deklariert. Jetzt gibt die aber bei Berechnungen wie 99^9 den Geist auf. Das heißt sie gibt sinnlose, negative Werte aus.
Ist vielleicht der Variablenbereich zu klein oder stimmt was mit meiner Rechnung nicht.


Ich hoffe mir kann jemand helfen.


Danke im Vorraus.


Jonas

bei Antwort benachrichtigen
Andreas42 JonasSchwartze „Variablenbereich zu klein?“
Optionen

Hi!

Gib doch einach die Zwischenergebnisse deiner Berechnung aus (oder lässt das Programm im Debugger laufen), dann siehst du was passiert.

Ohne ein echtes Beispiel (mit Quelltext) kann man nichts konkreteres sagen (und es dürfte klar sein, dass Extended-Werte eine begrenzte Genauigkeit haben).

Laut meinem Taschenrechner ist 99^9 (99 hoch 9) in etwa 9,135 * 10^17 und dass sollte Extended mit seinem Wertebereich locker wegstecken können (3,6*10^-4951 bis 1,1*10^4932).

Bis denn
Andreas

Hier steht was ueber mein altes Hard- und Softwaregedoens.
bei Antwort benachrichtigen