Berekeningsnauwkeurigheid

Inhoud

# LibreOfficeDev Berekeningsnauwkeurigheid

## Inherent nauwkeurigheidsprobleem

LibreOfficeDev Calc gebruikt, net als de meeste andere werkbladsoftware, drijvende-komma wiskundige mogelijkheden die beschikbaar zijn op hardware. Aangezien de meeste hedendaagse hardware binaire drijvende-kommaberekeningen gebruikt met beperkte precisie gedefinieerd in de IEEE 754-standaard, zijn veel decimale getallen - zoals zo eenvoudig als 0,1 - kunnen niet precies worden weergegeven in LibreOfficeDev Calc (die intern 64-bits dubbele-precisiegetallen gebruikt).

Berekeningen met die getallen leiden noodzakelijkerwijs tot afrondingsfouten, en die worden bij elke berekening groter.

Dit is geen bug, maar is te verwachten en is momenteel onvermijdelijk zonder gebruik te maken van complexe berekeningen in software, wat tot ongepaste prestatiestraffen zou leiden, en is dus uitgesloten. Gebruikers moeten daar rekening mee houden en afrondingen en vergelijkingen met machine epsilon (of eenheidsafronding) gebruiken als nodig.

Een voorbeeld met cijfers:

| A
1 | 31000.99
2 | 32000.12
3 | =A1-A2

Dit resulteert in -999,129999999997 in A3, in plaats van de verwachte -999,13 (mogelijk moet u de weergegeven decimalen in celopmaak verhogen om dit te zien).

Verwante onderwerpen

VERMINDEREN.RUW

Help ons, alstublieft!