Programmieren - alles kontrollieren 4.934 Themen, 20.613 Beiträge

VB6 meine nachkommastellen sind zu wenig...??!!!

mcpfusch / 6 Antworten / Flachansicht Nickles

ich bin über ein problem gestolpert...
ich möchte zahlen so genau wie möglich ausrechnen lassen..

allerdings rundet mein programm irgendwann einmal und unterschlägt stellen.

so 20-30 stellen hinter dem komma würde schon reichen ausserdem soll er das ganze ja auch nur 50 mal machen: Danke schon mal im vorraus.

Dim Teil1#
Dim Summe#
Dim Orginal#
Dim Mittel#
Dim Teil2#
Dim Schatzung#
Dim Bruch#
Orginal = Text2.Text \'Die zu berechnete zahl wird eingelesen
Teil1 = Orginal
Teil2 = 1


Mittel = Teil1 + Teil2 \'mittel bilden
Teil1 = Mittel / 2 \'und teilen
Schatzung = Teil1 * Teil1 \'gucken ob schätzung stimmt


Teil2 = Orginal / Teil1

With Text1

.SelStart = Len(Text1.Text)
.SelLength = 0

.SelText = Teil1 & Teil1 & Schatzung & vbCrLf
End With

bei Antwort benachrichtigen
easy436 mcpfusch „VB6 meine nachkommastellen sind zu wenig...??!!!“
Optionen

Kann sein, dass du mit # die Variablen als Double deklariert hast, aber ich schreibe das lieber aus, dann habe ich es sicher.
Aber länger geht es meiner Meinung nach nun wirklich nicht

bei Antwort benachrichtigen