¿Cómo puedo redondear un número decimal (punto flotante) al entero más cercano? p.ej 1.2 = 1 1.7 =
Al leer el código fuente de Lua , noté que Lua usa a macropara redondear doublea 32 bits int. Extraje el macro, y se ve así: union i_cast {double d; int i[2]}; #define double2int(i, d, t) \ {volatile union i_cast u; u.d = (d) + 6755399441055744.0; \ (i) = (t)u.i[ENDIANLOC];} Aquí ENDIANLOCse...
¿Cuál es la diferencia entre una operación de punto flotante de precisión simple y una operación flotante de precisión doble? Estoy especialmente interesado en términos prácticos en relación con las consolas de videojuegos. Por ejemplo, ¿la Nintendo 64 tiene un procesador de 64 bits y, si lo...
Sé que usar ==para verificar la igualdad de las variables de punto flotante no es una buena manera. Pero solo quiero saber eso con las siguientes declaraciones: float x = ... float y = x; assert(y == x) Como yse copia de x, ¿será cierta la
¿Cómo se puede modificar el formato para la salida de una operación groupby en pandas que produce notación científica para números muy grandes? Sé cómo formatear cadenas en Python, pero estoy perdido cuando se trata de aplicarlo aquí. df1.groupby('dept')['data1'].sum() dept value1...
Para mayor claridad, si estoy usando un lenguaje que implementa flotadores IEE 754 y declaro: float f0 = 0.f; float f1 = 1.f; ... y luego imprimirlos de nuevo, obtendré 0.0000 y 1.0000, exactamente. Pero IEEE 754 no es capaz de representar todos los números a lo largo de la línea real. Cerca de...
Sé que la mayoría de los decimales no tienen una representación exacta de coma flotante ( ¿se rompen las matemáticas de coma flotante? ). Pero no veo por qué 4*0.1se imprime bien como 0.4, pero 3*0.1no lo es, cuando ambos valores tienen representaciones decimales feas: >>>...
¿Alguien puede arrojar algo de luz sobre por qué Double.MIN_VALUEno es realmente el valor mínimo que los Dobles pueden tomar? Es un valor positivo, y un Doble puede, por supuesto, ser negativo. Entiendo por qué es un número útil, pero parece un nombre muy poco intuitivo, especialmente en...
Quiero comparar dos flotantes en PHP, como en este código de muestra: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } En este código se devuelve el resultado de la elsecondición en lugar de la ifcondición, a pesar de que $ay $bson...
Estoy tratando de comparar dos números de coma flotante dentro de un script bash. Tengo que variables, por ejemplo let num1=3.17648e-22 let num2=1.5 Ahora, solo quiero hacer una comparación simple de estos dos números: st=`echo "$num1 < $num2" | bc` if [ $st -eq 1]; then echo -e "$num1 <...
No, esta no es otra pregunta "¿Por qué es (1 / 3.0) * 3! = 1" . He estado leyendo mucho sobre puntos flotantes últimamente; específicamente, cómo el mismo cálculo podría dar diferentes resultados en diferentes arquitecturas o configuraciones de optimización. Este es un problema para los...
El código float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); te dará la salida x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 donde en la tercera línea de salida...
Estaba estudiando preguntas de OCPJP y encontré este código extraño: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Cuando ejecuté el código, obtuve: false true ¿Cómo es la salida falsecuando estamos comparando...
Sé que el 0.1número decimal no se puede representar exactamente con un número binario finito ( explicación ), por double n = 0.1lo que perderá algo de precisión y no será exactamente0.1 . Por otro lado 0.5se puede representar exactamente porque lo es 0.5 = 1/2 = 0.1b. Habiendo dicho eso, es...
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Se imprime el código anterior: 11.399999999999 ¿Cómo conseguiría que esto simplemente imprima (o pueda usarlo como)
Aquí está mi código: x = 1.0 y = 100000.0 print x/y Mi cociente se muestra como 1.00000e-05. ¿Hay alguna forma de suprimir la notación científica y hacer que se muestre como 0.00001? Voy a usar el resultado como una
Entiendo que la --ffast-mathbandera de gcc puede aumentar en gran medida la velocidad de las operaciones de flotación, y se sale de los estándares IEEE, pero parece que no puedo encontrar información sobre lo que realmente sucede cuando está encendido. ¿Alguien puede explicar algunos de los...
Tengo un número de coma flotante, por ejemplo 135.12345678910. Quiero concatenar ese valor a una cadena, pero solo quiero 135.123456789. Con print, puedo hacer esto fácilmente haciendo algo como: print "%.9f" % numvar con numvarser mi número original ¿Hay una forma fácil de hacer...
Tengo una función que toma argumentos flotantes (generalmente enteros o decimales con un dígito significativo), y necesito generar los valores en una cadena con dos decimales (5 -> 5.00, 5.5 -> 5.50, etc.). ¿Cómo puedo hacer esto en
Lo sé, la pregunta parece ser extraña. Los programadores a veces piensan demasiado. Por favor sigue leyendo ... En CI uso signedy unsignedenteros mucho. Me gusta el hecho de que el compilador me advierte si hago cosas como asignar un entero con signo a una variable sin signo. Recibo advertencias si...