Frage stellen
0

Berechnungsfehler!

gefragt 2017-07-11 11:34:50 +0100

FGlas Gravatar-Bild

updated 2017-07-11 11:41:26 +0100

Eingabe: =2555,79-2490,43

Ergebnis: 65,3600000000000001

Screenshot: https://www.pic-upload.de/view-33496744/Rechenfehler.jpg.html

Version: 5.3.4.2 (x64) unter Windows 7

Bearbeiten Tags ändern Melden schließen vereinen löschen

2 Antworten

1

geantwortet 2017-07-11 12:34:18 +0100

Lupp Gravatar-Bild

Das ist Einschleppung insignifikanter dyadischer Ziffern durch numerische Auslöschung signifikanter Ziffern. Kein Fehler, sondern eine altbekannte lästige, aber unvermeidliche Folge des Rechnens mit festgelegter Zahl von Stellen, hier noch in einem Zahlsystem (dyadisch), in das und aus dem konvertiert werden muss, wenn der Benutzer eine dezimale Representation der Zahlen haben will. Eine beliebige mögliche Zahl lässt sich meistens nicht exakt in einem gegebenen Zahlsystem darstellen, und die bestmöglichen Darstellungen in verschiedenen Zahlsystemen sind meist nicht genau gleichwertig. Nach Äuslöschung gültiger führender Ziffern siehst du den kleinen Unterschied.

[Ab Versin 5.4](https://wiki.documentfoundation.org/R...) (derzeit in der RC-Phase) gibt es eine neue Funktion, die helfen soll solche Irritationen zu vermindern: ROUNDSIG (der deutsche Name wird RUNDENSIG sein.)

Siehe auch
Diesen Thread in Englisch,
diesen Wikipedia-Artikel

Bearbeiten Melden löschen Link mehr
0

geantwortet 2017-07-11 12:52:12 +0100

erAck Gravatar-Bild

Das ist leider "normal" bei floating point weil nicht alle dezimalen Werte exakt binaer repraesentiert werden koennen. =RUNDEN(2555,79-2490,43;2) schafft Abhilfe. Bei der automatischen Darstellung abhaengig von der Spaltenbreite, die du anscheinend verwendest, koennte das jedoch vielleicht beruecksichtigt werden. Ansonsten ist es das gleiche wie Zahlformat 0,0000000000000000

Fuer Details siehe auch https://en.wikipedia.org/wiki/Numeric...

Bearbeiten Melden löschen Link mehr
Registrieren oder einloggen, um zu antworten

Antwortwerkzeuge

1 Beobachter

Statistik

Gefragt: 2017-07-11 11:34:50 +0100

Angesehen: 79 Mal

Aktualisiert: Jul 11 '17