In VB 2005 stellen Variablen des Datentyps "Double" die "ToString"-Methode zur Verfügung, durch die der aktuelle Variableninhalt in einen String umgewandelt werden kann. Verwendet man die ToString-Metode ohne Formatanweisung, wird automatisch auf die interne Standardeinstellung zurückgegriffen - und durch die wird ein DOUBLE-Wert auf 15 Stellen Genauigkeit angegeben. Es ist deshalb möglich, dass beim Vergleich von 2 Double-Variablen a, b der numerische Vergleichs-Ausdruck a = b 'false' ergibt, während der String-Vergleich a.ToString = b.ToString 'true'
liefert. Will man bei beiden Vergleichen ein konsistentes Ergebnis erzielen, ist eine explizite Formatanweisung erforderlich, die die Genauigkeit der Stringdarstellung auf 17 Stellen erhöht: a.ToString("g17") = b.ToString("g17") Selbstverständlich können auch beliebige andere benutzerdefinierte Formate verwendet werden, je nach Bedarf. (Prinzipiell sollte man allerdings Double-Variablen nicht direkt auf Identität überprüfen, sondern stets einen Vergleich der Variablen-Differenz durchführen - unter Verwendung eines ausprägungs-abhängigen Epsilon-Schwellenwertes.) Dieser Tipp wurde bereits 10.410 mal aufgerufen. Voriger Tipp | Zufälliger Tipp | Nächster Tipp
Anzeige
Diesen und auch alle anderen Tipps & Tricks finden Sie auch auf unserer aktuellen vb@rchiv Vol.6 Ein absolutes Muss - Geballtes Wissen aus mehr als 8 Jahren vb@rchiv! - nahezu alle Tipps & Tricks und Workshops mit Beispielprojekten - Symbol-Galerie mit mehr als 3.200 Icons im modernen Look Weitere Infos - 4 Entwickler-Vollversionen (u.a. sevFTP für .NET), Online-Update-Funktion u.v.m. |
vb@rchiv CD Vol.6 Geballtes Wissen aus mehr als 8 Jahren vb@rchiv! Online-Update-Funktion Entwickler-Vollversionen u.v.m. Tipp des Monats Mai 2024 Hermann Röttger Wochentage eines Datumsbereichs ermitteln Wochentage eines Datumsbereichs ermitteln, optional mit Feiertagsberechnung sevAniGif (VB/VBA) Anzeigen von animierten GIF-Dateien Ab sofort lassen sich auch unter VB6 und VBA (Access ab Version 2000) animierte GIF-Grafiken anzeigen und abspielen, die entweder lokal auf dem System oder auf einem Webserver gespeichert sind. |
||||||||||||||||
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein. |