На этот вопрос есть ответы на Stack Overflow на русском : Вычисления на числах с плавающей точкой не работают Considere el siguiente código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 ¿Por qué ocurren estas...
Me gustaría redondear como máximo 2 decimales, pero solo si es necesario . Entrada: 10 1.7777777 9.1 Salida: 10 1.78 9.1 ¿Cómo puedo hacer esto en JavaScript?
En Python, ¿cómo puedo analizar una cadena numérica como "545.2222"su valor flotante correspondiente 545.2222? ¿O analizar la cadena "31"a un entero 31? Solo quiero saber cómo analizar un flotante str a un float, y (por separado) un int str a un
Estoy haciendo una optimización numérica en una aplicación científica. Una cosa que noté es que GCC optimizará la llamada pow(a,2)compilándola a*a, pero la llamada pow(a,6)no está optimizada y realmente llamará a la función de biblioteca pow, lo que ralentiza enormemente el rendimiento. (En...
¿Qué es la diferencia entre decimal, floaty doubleen .NET? ¿Cuándo alguien usaría uno de
Quiero aser redondeado a 13.95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 La roundfunción no funciona como
¿Cuál es la mejor manera posible de verificar si una cadena se puede representar como un número en Python? La función que tengo actualmente en este momento es: def is_number(s): try: float(s) return True except ValueError: return False Lo cual, no solo es feo y lento, parece torpe. Sin...
¿Por qué este bit de código, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i = 0;...
Para documentos anteriores * .doc esto fue suficiente: header("Content-Type: application/msword"); ¿Qué tipo de mime debo usar para los nuevos documentos docx? ¿También para documentos pptx y
Siempre me han dicho que nunca represente dinero doubleo floattipos, y esta vez le hago la pregunta: ¿por qué? Estoy seguro de que hay una muy buena razón, simplemente no sé de qué se
Según html5.org , el "atributo de valor del tipo de entrada" número ", si se especifica y no está vacío, debe tener un valor que sea un número válido de coma flotante". Sin embargo, es simplemente (en la última versión de Chrome, de todos modos), un control "arriba-abajo" con enteros, no...
Me gustaría formatear mis números para que siempre muestren 2 decimales, redondeando donde corresponda. Ejemplos: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 He estado usando esto: parseFloat(num).toFixed(2); Pero se muestra 1como 1, en lugar de
¿Hay alguna manera de pasar de 0 a 1 por 0.1? Pensé que podría hacerlo de la siguiente manera, pero falló: for i in range(0, 1, 0.1): print i En cambio, dice que el argumento paso no puede ser cero, lo cual no
Tengo dos valores enteros ay b, pero necesito su relación en coma flotante. Lo sé a < by quiero calcular a / b, así que si uso la división de enteros siempre obtendré 0 con un resto de a. ¿Cómo puedo forzar ca ser un número de coma flotante en Python en lo siguiente? c = a /...
Quiero usar a Track-Barpara cambiar Formla opacidad de a. Este es mi código: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Cuando construyo la aplicación, aparece el siguiente error: No se puede convertir implícitamente el tipo decimaladouble He intentado usar transy...
Tengo el siguiente script de prueba ficticio: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Ejecutar fragmento de códigoOcultar resultadosExpandir fragmento Esto imprimirá el resultado, 0.020000000000000004mientras que solo debería imprimir 0.02(si usa su calculadora)....
Tengo esta línea de código que redondea mis números a dos decimales. Pero obtengo números como este: 10.8, 2.4, etc. Esta no es mi idea de dos decimales, entonces, ¿cómo puedo mejorar lo siguiente? Math.round(price*Math.pow(10,2))/Math.pow(10,2); Quiero números como 10.80, 2.40, etc. El uso de...
En el siguiente programa, puede ver que cada valor es ligeramente inferior al .5redondeado hacia abajo, excepto 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " +...
¿Cuál sería la forma más eficiente de comparar dos double o dos floatvalores? Simplemente hacer esto no es correcto: bool CompareDoubles1 (double A, double B) { return A == B; } Pero algo como: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) &&...
Un doble de 64 bits puede representar un entero +/- 2 53 exactamente Dado este hecho, elijo usar un tipo doble como tipo único para todos mis tipos, ya que mi número entero más grande es de 32 bits sin signo. Pero ahora tengo que imprimir estos pseudo enteros, pero el problema es que también...