Por que con números grandes no resta números pequeños.

vlguerrero · October 15, 2015, 6:48pm

Estaba realizando la siguiente operación: 2⁶⁴-2, en formula seria: “=POTENCIA(2;64)-2”, el resultado que me dio calc: 18.446.744.073.709.600.000, que solo corresponde a la potencia (2⁶⁴). Se supone que a este resultado debía restarle 2, pero al intentar realizar la resta de diferentes formas, el resultado sigue siendo: 18.446.744.073.709.600.000.

Traté de realizar la operación de diferentes maneras, pero de ninguna me da : 18.446.744.073.709.599.998. Por ultimo trate de repetir el ejercicio utilizando MS Excel, pero sucede lo mismo. Alguien me puede explicar por que sucede esto?

mariosv · October 16, 2015, 6:06pm

Es simple, estas superando el límite de precisión de los números con los que calc y otros programas de hoja de calculo pueden trabajar, que si no recuerdo mal, son números de 15 dígitos mas signo. Límite que viene dado por el procesador del ordenador.

Por lo que conozco la implementación de números mas grandes implicaría una inaceptable lentitud de las hojas de calculo pues los programas tendrían que hacer los cálculos por software.

puedes encontrar un claro de comentario de un gran desarrollador de Calc.
https://bugs.documentfoundation.org/show_bug.cgi?id=50299#c6