Soy consciente de que la aritmética de coma flotante tiene problemas de precisión. Por lo general, los supero cambiando a una representación decimal fija del número, o simplemente descuidando el error. Sin embargo, no sé cuáles son las causas de esta inexactitud. ¿Por qué hay tantos problemas de...
Los lenguajes de programación como Scheme (R5RS) y Python ( vea esta pregunta ) se redondean hacia el entero par más cercano cuando el valor está exactamente entre los enteros circundantes. ¿Cuál es el razonamiento detrás de esto? ¿Existe una idea matemática que haga que razonar a continuación...
Mientras investigaba la precisión de los números de coma flotante, he visto en algunos lugares una declaración similar a " flotante y doble son ( diseñados para / utilizados a menudo en ) ingeniería y cálculo científico " Según tengo entendido, la fuerza de los flotadores y los dobles es la...
Las computadoras tienen problemas para almacenar números fraccionarios donde el denominador no es una solución para 2 ^ x. Esto se debe a que el primer dígito después del decimal vale 1/2, el segundo 1/4 (o 1 / (2 ^ 1) y 1 / (2 ^ 2)), etc. ¿Por qué lidiar con todo tipo de errores de redondeo...
Al crear una aplicación que se ocupa de muchos cálculos matemáticos, me he encontrado con el problema de que ciertos números causan errores de redondeo. Si bien entiendo que el punto flotante no es exacto , el problema es ¿cómo trato con los números exactos para asegurarme de que cuando se...
Estoy tratando de pensar en cómo haría los cálculos en números extremadamente grandes (hasta el infinito - no hay números flotantes) si la construcción del lenguaje es incapaz de manejar números mayores que un cierto valor. Estoy seguro de que no soy el primero ni el último en hacer esta...
En numérica, es muy importante poder identificar esquemas inestables y mejorar su estabilidad. ¿Cómo identificar los cálculos de punto flotante inestables? Estoy trabajando en una simulación muy compleja donde muchos esquemas numéricos trabajan juntos y estoy buscando un método para identificar...
Al revisar de otro programador implementación de una función para calcular la CDF distribución normal , hice una sugerencia para reemplazar toda la implementación de Python con funciones integradas o utilizar SciPy, una biblioteca científica común. Otro programador señaló que math.erfc()ni...