Programmieren - alles kontrollieren 4.937 Themen, 20.656 Beiträge

TP 7 Genauigkeit einer Variablen auf 3 Stellen hinter dem Komma

Hendrikx / 1 Antworten / Flachansicht Nickles

Wie kann ich in Turbo Pascal 7 die Genauigkeit einer (Zahlen) Variable auf 3 Stellen hinterm Komma begrenzen? Es geht um eine Programm zur Sekandennullstellenberechnung und da muss


ich eigentlich mit Real Variablen arbeiten, aber die sind mir zu genau.


Vielen Danks chon im vorraus


Hendrik

bei Antwort benachrichtigen
Andreas42 Hendrikx „TP 7 Genauigkeit einer Variablen auf 3 Stellen hinter dem Komma“
Optionen

Hi!

Die Rechengenauigkeit kann man nicht global begrenzen (naja, man müsste sich alle Recheroperationen neu bauen oder du transponierst deine Fliesskommazahlen in Long-Werte und rechnest mit diesen...).

Ich würde die einzelnen Werte vor der Berechnung runden und dann das Ergebniss ebenfalls. Die Alternative wäre natürlich nur das Erbnis zu runden.

Falls es dir nur um die Ausgabe von Floatwerten geht, dann kannst du natürlich die Anzahl der Nachkommastellen bei write/witeln() und str() festlegen.

Bis denn
Andreas

Hier steht was ueber mein altes Hard- und Softwaregedoens.
bei Antwort benachrichtigen