Excel Extra Extra Digit

2

En Excel 2007/2010, obtengo este comportamiento extraño:

Formula in cell: =2.6+1.4+4.62-8.2
Result in cell: 0.420000000000002000

Extraño '2' extra sobre 14DP en. ¿Alguien puede explicar por qué sucede esto, por favor?

microsoft-excel microsoft-excel-2010 j0nr
fuente
3
Este es probablemente el resultado de cálculos de coma flotante. (Las computadoras no suelen calcularse en el sistema decimal. En su lugar, usan binario, a menudo binario de unos 80 bits de profundidad. Eso suele ser lo suficientemente cercano, pero no es preciso y conduce a errores de redondeo).
Hennes
1
De hecho, esto se debe a los cálculos decimales y no es un error.
Ramhound
1
Aquí hay un MS KB decente sobre el tema: support.microsoft.com/en-us/kb/214118
Byron Wall
Probablemente porque las matemáticas de punto flotante de la computadora son en realidad inexactas, y empeoran a medida que avanza en decimales.
Oort

Respuestas:

1

Como se menciona en los comentarios, esto no es un error. Se debe a la inexactitud inevitable de la aritmética de coma flotante debido al número finito de bits disponibles para almacenar valores, lo que resulta en una representación aproximada que se hace evidente en los dígitos más significativos que elige mostrar.

Aquí hay algunos artículos útiles para usted:

Karan
fuente