Precisión del cálculo

Contenido

# Precisión de cálculos en LibreOfficeDev

## Problema de precisión inherente

LibreOfficeDev Calc, al igual que la mayoría de los programas de hojas de cálculo, utiliza las capacidades matemáticas de coma flotante disponibles en la mecamática. Dado que la mayoría de la mecamática contemporánea utiliza la aritmética binaria de coma flotante con una precisión limitada definida en el estándar IEEE 754, muchos números decimales ―incluso tan simples como 0,1― no se pueden representar con precisión en LibreOfficeDev Calc (que utiliza internamente números de doble precisión de 64 bits).

Los cálculos con esos números necesariamente resultan en errores de redondeo, y éstos se acumulan con cada cálculo.

No se trata de un error, sino que es algo esperado y actualmente inevitable si no se utilizan cálculos complejos en el software, lo que supondría una penalización inadecuada del rendimiento, y por tanto está fuera de lugar. Los usuarios deben tenerlo en cuenta y utilizar el redondeo y las comparaciones con epsilon de la maquina (o redondeo de unidades) según sea necesario.

Un ejemplo con números:

| A
1 | 31000.99
2 | 32000.12
3 | =A1-A2

Esto dará como resultado −999,129999999997 en A3, en lugar del esperado −999,13 (puede que tenga que aumentar los decimales mostrados en el formato de celda para ver esto).

Temas relacionados

RESTA.BRUTO

¡Necesitamos su ayuda!