Para preguntas relacionadas con la precisión numérica en programación. Para precisión de clasificación, use la etiqueta [precisión-recuperación].
Quiero aser redondeado a 13.95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 La roundfunción no funciona como
He leído sobre la diferencia entre precisión doble y precisión simple. Sin embargo, en la mayoría de los casos, floaty doubleparecen ser intercambiables, es decir, usar uno u otro no parece afectar los resultados. ¿Es este realmente el caso? ¿Cuándo son intercambiables los flotadores y los dobles?...
Precisión vs. Precisión Lo que me gustaría saber es si debo usar System.currentTimeMillis () o System.nanoTime () al actualizar las posiciones de mi objeto en mi juego. Su cambio de movimiento es directamente proporcional al tiempo transcurrido desde la última llamada y quiero ser lo más preciso...
Así que obtuve la respuesta a mi última pregunta (no sé por qué no pensé en eso). Estaba imprimiendo un doubleuso coutque se redondeó cuando no lo esperaba. ¿Cómo puedo hacer coutuna impresión doublecon total
Quería mostrar un número con 2 decimales. Pensé que podría usar toPrecision(2)en JavaScript. Sin embargo, si el número es 0.05, me sale 0.0500. Prefiero que siga igual. Véalo en JSbin . ¿Cuál es la mejor manera de hacer esto? Puedo pensar en codificar algunas soluciones, pero me imagino...
Tengo la siguiente columna especificada en una base de datos: decimal (5,2) ¿Cómo se interpreta esto? De acuerdo con las propiedades de la columna como se ve en el estudio de administración de SQL Server, puedo ver que significa: decimal (precisión numérica, escala numérica). ¿Qué significan la...
¿Cómo puedo construir exactamente una marca de tiempo del tiempo real con precisión de milisegundos? Necesito algo como 16.4.2013 9: 48: 00: 123. es posible? Tengo una aplicación, donde muestro valores 10 veces por segundo, y necesito mostrarlos en un
¿Por qué algunos números pierden precisión cuando se almacenan como números de coma flotante? Por ejemplo, el número decimal 9.2se puede expresar exactamente como una relación de dos enteros decimales ( 92/10), los cuales se pueden expresar exactamente en binario ( 0b1011100/0b1010). Sin embargo,...
Estoy tratando de obtener la suma de 1 + 2 + ... + 1000000000, pero yo estoy resultados divertidos en PHP y Node.js . PHP $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", "")); // 500000000067108992 Node.js var sum = 0; for (i = 0; i...
Recientemente tuve que serializar un doble en texto y luego recuperarlo. El valor parece no ser equivalente: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Pero según MSDN: cadenas de formato numérico estándar ,...
¿Cuál es la diferencia entre una operación de punto flotante de precisión simple y una operación flotante de precisión doble? Estoy especialmente interesado en términos prácticos en relación con las consolas de videojuegos. Por ejemplo, ¿la Nintendo 64 tiene un procesador de 64 bits y, si lo...
No, esta no es otra pregunta "¿Por qué es (1 / 3.0) * 3! = 1" . He estado leyendo mucho sobre puntos flotantes últimamente; específicamente, cómo el mismo cálculo podría dar diferentes resultados en diferentes arquitecturas o configuraciones de optimización. Este es un problema para los...
Sé que el 0.1número decimal no se puede representar exactamente con un número binario finito ( explicación ), por double n = 0.1lo que perderá algo de precisión y no será exactamente0.1 . Por otro lado 0.5se puede representar exactamente porque lo es 0.5 = 1/2 = 0.1b. Habiendo dicho eso, es...
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Se imprime el código anterior: 11.399999999999 ¿Cómo conseguiría que esto simplemente imprima (o pueda usarlo como)
Estoy haciendo un programa en el que necesito obtener el tiempo en milisegundos. Por tiempo, me refiero a un número que nunca es igual a sí mismo, y siempre es 1000 números más grande que hace un segundo. He intentado convertir DateTime.Nowa ay TimeSpanobtener TotalMillisecondseso ... pero he oído...
Usando solo ANSI C, ¿hay alguna forma de medir el tiempo con precisión de milisegundos o más? Estaba navegando time.h pero solo encontré segundas funciones de
Soy nuevo en JavaScript y acabo de descubrir toFixed()y toPrecision()redondear números. Sin embargo, no puedo entender cuál es la diferencia entre los dos. ¿Cuál es la diferencia entre number.toFixed()y
Hay una opción en R para controlar la visualización de dígitos. Por ejemplo: options(digits=10) se supone que da los resultados del cálculo en 10 dígitos hasta el final de la sesión R. En el archivo de ayuda de R, la definición del parámetro de dígitos es la siguiente: dígitos: controla el...
Esta fue una pregunta que me hicieron en mi entrevista reciente y quiero saber (en realidad no recuerdo la teoría del análisis numérico, así que por favor ayúdenme :) Si tenemos alguna función, que acumula números de punto flotante: std::accumulate(v.begin(), v.end(), 0.0); ves un...
¿Existe un printfespecificador de ancho que se pueda aplicar a un especificador de punto flotante que formatee automáticamente la salida con el número necesario de dígitos significativos de modo que al escanear la cadena de nuevo, se adquiera el valor de punto flotante original? Por ejemplo,...