Berechnungsgenauigkeit

Inhalte

# LibreOfficeDev-Berechnungsgenauigkeit

## Inhärentes Genauigkeitsproblem

LibreOfficeDev Calc verwendet, genau wie die meisten anderen Tabellenkalkulationsprogramme, Fließkomma-Rechenfunktionen, die auf Hardware verfügbar sind. Angesichts der Tatsache, dass die meisten modernen Geräte binäre Fließkommaarithmetik mit begrenzter Genauigkeit verwenden, die im IEEE 754-Standard definiert ist, können viele Dezimalzahlen – einschließlich so einfacher wie 0,1 – in LibreOfficeDev Calc (das intern 64-Bit-Zahlen mit doppelter Genauigkeit verwendet) nicht genau dargestellt werden.

Berechnungen mit diesen Zahlen führen zwangsläufig zu Rundungsfehlern, und diese häufen sich bei jeder Berechnung an.

Dies ist kein Fehler, sondern beabsichtigt und derzeit unvermeidbar, ohne dass komplexe Berechnungen in der Software verwendet werden, die unangemessene Leistungseinbußen nach sich ziehen würden, und steht daher außer Frage. Benutzer müssen dies berücksichtigen und bei Bedarf Rundungen und Vergleiche mit Maschinengenauigkeit (oder Einheitenrundung) verwenden.

Ein Beispiel mit Zahlen:

| A
1 | 31000.99
2 | 32000.12
3 | =A1-A2

Dies führt zu -999,129999999997 in A3 anstelle des erwarteten -999,13 (Sie müssen möglicherweise die angezeigten Dezimalstellen im Zellformat erhöhen, um dies zu sehen).

Verwandte Themen

SUBTRAKTION

Bitte unterstützen Sie uns!