Error de redondeo en Excel
Cuando se almacenan los números, un número binario correspondiente puede representar cada número o número fraccionario. Por ejemplo, la fracción 1/10 puede representarse en un sistema numérico decimal como 0,1. Sin embargo, el mismo número en formato binario se convierte en el siguiente decimal binario repetido:
Todos los ordenadores tienen un número máximo y mínimo que pueden manejar. Como el número de bits de memoria en el que se almacena el número es finito, se deduce que el número máximo o mínimo que se puede almacenar también es finito. En el caso de Excel, el número máximo que se puede almacenar es 1,79769313486232E+308 y el número mínimo positivo que se puede almacenar es 2,2250738585072E-308.
El signo almacena el signo del número (positivo o negativo), el exponente almacena la potencia de 2 a la que se eleva o reduce el número (la potencia máxima/mínima de 2 es +1,023 y -1,022), y la mantisa almacena el número real. El área de almacenamiento finita de la mantisa limita la proximidad de dos números de coma flotante adyacentes (es decir, la precisión).
Excel en lugar de número
Excel sigue la especificación IEEE 754 sobre cómo almacenar y calcular números de punto flotante. Por lo tanto, Excel almacena sólo 15 dígitos significativos en un número y cambia los dígitos después del decimoquinto lugar a ceros
Este comportamiento sólo se produce si la celda está formateada como Número, y el número que se introduce supera los 15 dígitos. En el caso de las celdas con formato de texto, se pueden escribir hasta 32.767 caracteres. Excel muestra hasta 1.024 caracteres en la hoja de cálculo.
Dado que los formatos numéricos personalizados están diseñados para trabajar principalmente con números, no puede crear un formato numérico personalizado que almacene más de 15 dígitos. Por ejemplo, no puede utilizar el siguiente formato para almacenar un ID de tarjeta de crédito de 16 caracteres como número:
Error de punto flotante en Excel
Al igual que otras hojas de cálculo, Microsoft Excel trabaja con una precisión limitada porque sólo conserva un cierto número de cifras para describir los números (tiene una precisión limitada). Con algunas excepciones relativas a valores erróneos, infinitos y números desnormalizados, Excel calcula en formato de punto flotante de doble precisión a partir de la especificación IEEE 754[1] (además de los números, Excel utiliza algunos otros tipos de datos[2]). Aunque Excel puede mostrar 30 decimales, su precisión para un número especificado se limita a 15 cifras significativas, y los cálculos pueden tener una precisión aún menor debido a cinco cuestiones: el redondeo,[3] el truncamiento y el almacenamiento binario, la acumulación de las desviaciones de los operandos en los cálculos, y lo peor: la anulación en las sustracciones resp. la “anulación catastrófica” en la sustracción de valores con magnitudes similares.
Por supuesto matemática 1 + x – 1 = x, ‘matemáticas de punto flotante’ es a veces un poco diferente, que no es culpa de Excel. La discrepancia indica el error. Todos los errores están más allá del 15º dígito significativo del valor intermedio 1+x, todos los errores están en dígitos de alto valor del resultado final, ese es el efecto problemático de la ‘cancelación’.
Eliminar decimales excel
Cuando estábamos en la escuela secundaria, cada uno de nosotros aprendió el significado de la precisión desde el punto de vista de las matemáticas: definía el grado de exactitud de un número. Así, a menudo veíamos lo que al principio parecía una información confusa. La Sra. Jameson, la profesora de matemáticas, nos decía que 4,76 era diferente de 4,760. Resulta que la razón es que 4,76 es preciso (exacto) con sólo dos decimales, mientras que 4,760 es preciso (exacto) con tres decimales. Por lo tanto, 4,760 es más preciso que 4,76 debido al número de dígitos significativos que contiene cada uno.
Entra en el mundo de las calculadoras digitales y (por extensión) de las hojas de cálculo, como Excel. Para ellas, no hay diferencia entre 4,76 y 4,760. ¿Por qué, se preguntarán, es esto cierto, sobre todo cuando la Sra. Jameson hizo tanto ruido con el tema? La razón es la forma en que las calculadoras y las hojas de cálculo almacenan los números y la forma en que los seres humanos almacenan los números.
En general, los humanos almacenamos los números (en nuestro cerebro) tal y como están escritos. Esto significa que miramos 4,76 y sabemos que es exacto hasta dos decimales porque eso es todo lo que podemos ver y escribir. En cambio, los chips de los ordenadores se mueven en un plano de precisión muy diferente. Cuando introduces un número en Excel, éste lo convierte automáticamente a quince dígitos de precisión, independientemente de lo que pretendas. Así, 4,76 se rellena automáticamente con ceros al final hasta alcanzar los quince dígitos, incluso si pensabas que sólo estabas especificando dos decimales de precisión. Cuando pones el número 4.760, esperando tres lugares decimales de precisión, Excel todavía lo rellena hasta los quince lugares. Es imposible indicar a Excel que preste atención a dos decimales en un caso y a tres en el otro. Los humanos pueden hacerlo, pero Excel no.