6 Punkte von kunggom 2020-01-07 | Noch keine Kommentare. | Auf WhatsApp teilen

Die auf Computern meist verwendete Gleitkomma-Methode (Floating Point) zur Darstellung von nicht-ganzzahligen reellen Zahlen hat den Vorteil, einen sehr großen Zahlenbereich abbilden zu können. Da sie jedoch nur eine Näherungsdarstellung ist, entstehen Fehler, wodurch exakte Zahlendarstellung und präzise Berechnungen nicht möglich sind. Außerdem sollte man beachten, dass nicht garantiert ist, dass die Verarbeitung in allen Programmiersprachen identisch ist. Informationen zu den sich je nach Sprache leicht unterscheidenden Gleitkomma-Verarbeitungen finden sich unter https://0.30000000000000004.com/.

Vorgestellt wird ein Dokument, das erklärt, wie sich Probleme durch Gleitkommafehler in Python (ungefähr ab Version 3.5) lösen lassen. (Koreanisch) Die sauberste Lösung sei offenbar, das decimal-Modul einzuführen und einen Dezimaldatentyp zu verwenden. Wenn binäres Gleitkomma das Problem ist, dann lautet die Idee, einfach wie Menschen im Dezimalsystem zu rechnen. Tatsächlich wird diese Methode auch in Bereichen wie Finanzwesen oder Buchhaltung verwendet, in denen Berechnungen mit Nachkommastellen exakt sein müssen.

p.s.

Zur Information: Von den CPUs in IBM-Mainframes ist bekannt, dass sie hardwareseitig eine Funktion zur Dezimalrechnung besitzen. In Banken und ähnlichen Einrichtungen werden Mainframes schließlich bis heute noch häufig eingesetzt.

Noch keine Kommentare.

Noch keine Kommentare.