Sé que normalmente no puedes confiar en la igualdad entre valores de tipo doble o decimal, pero me pregunto si 0 es un caso especial. Si bien puedo entender imprecisiones entre 0.00000000000001 y 0.00000000000002, 0 en sí mismo parece bastante difícil de estropear, ya que no es nada. Si eres...
Estoy usando el módulo json estándar en python 2.6 para serializar una lista de flotantes. Sin embargo, obtengo resultados como este: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Quiero que los flotantes...
Estoy haciendo un trabajo crítico para el rendimiento en C ++ y actualmente estamos usando cálculos de números enteros para problemas que son inherentemente de punto flotante porque "es más rápido". Esto causa muchos problemas molestos y agrega mucho código molesto. Ahora, recuerdo haber leído...
Cuando compilo código C con mi cadena de herramientas cruzada, el enlazador imprime páginas de advertencias que dicen que mi ejecutable usa flotantes duros pero mi libc usa flotantes suaves. ¿Cual es la
Caso 1: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0.0)<<std::endl; } Se compila sin advertencias ni se imprime inf. Bien, C ++ puede manejar la división por cero ( véalo en vivo ). Pero, Caso 2: #include <iostream> int main() { double d =...
He leído sobre el punto flotante y entiendo que NaN podría resultar de operaciones. Pero no puedo entender qué son estos conceptos exactamente. ¿Cuál es la diferencia entre ellos? ¿Cuál se puede producir durante la programación en C ++? Como programador, ¿podría escribir un programa que provoque...
Tengo un flotador primitivo y lo necesito como doble primitivo. Simplemente lanzar el flotador al doble me da una precisión extra extraña. Por ejemplo: float temp = 14009.35F; System.out.println(Float.toString(temp)); // Prints 14009.35 System.out.println(Double.toString((double)temp)); // Prints...
Digamos que el cuello de botella de mi programa Java son realmente algunos bucles ajustados para calcular un montón de productos punto vectoriales. Sí, he perfilado, sí, es el cuello de botella, sí, es significativo, sí, así es como es el algoritmo, sí, he ejecutado Proguard para optimizar el...
Esto es algo que ha estado en mi mente durante años, pero nunca antes me había tomado el tiempo de preguntar. Muchos generadores de números (pseudo) aleatorios generan un número aleatorio entre 0.0 y 1.0. Matemáticamente hay números infinitos en este rango, pero doublees un número de coma...
Tengo una lista de carrozas. Si simplemente printlo hago , se muestra así: [9.0, 0.052999999999999999, 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006] Podría usar print "%.2f", lo que requeriría un forbucle para recorrer la lista, pero luego no...
Estoy tratando de truncar números decimales a lugares decimales. Algo como esto: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)hace lo correcto pero redondea el valor. No necesito redondear el valor. Espero que esto sea posible en javascript.
En los encabezados stdint.h(C99), boost / cstdint.hpp y cstdint(C ++ 0x) se encuentra, entre otros, el tipo int32_t. ¿Existen tipos de coma flotante de tamaño fijo similares? Algo como float32_t?
Estoy desarrollando algunas simulaciones de ingeniería. Esto implica implementar algunas ecuaciones largas como esta ecuación para calcular la tensión en un material similar al caucho: T = ( mu * ( pow(l1 * pow(l1 * l2 * l3, -0.1e1 / 0.3e1), a) * a * ( pow(l1 * l2 * l3, -0.1e1 / 0.3e1) -...
¿Existe una forma pitónica de dividir un número 1234.5678en dos partes, (1234, 0.5678)es decir, la parte entera y la parte decimal?
Intenté comprobar dónde floatpierde la capacidad de representar exactamente números enteros grandes. Así que escribí este pequeño fragmento: int main() { for (int i=0; ; i++) { if ((float)i!=i) { return i; } } } Este código parece funcionar con todos los compiladores, excepto clang....
¿Cuáles son las ventajas y desventajas de usar uno en lugar del otro en C ++?
Estoy creando un programa que, por razones que no es necesario explicar, requiere que un flotante se convierta en una cadena que se cuente con len (). Sin embargo, str (float (x)) da como resultado que x se redondee cuando se convierte en una cadena, lo que desecha todo. ¿Alguien sabe de una...
Estoy mostrando una distancia con un decimal, y me gustaría eliminar este decimal en caso de que sea igual a 0 (por ejemplo: 1200.0Km), ¿cómo podría hacerlo en rápido? Estoy mostrando este número así: let distanceFloat: Float = (currentUser.distance! as NSString).floatValue distanceLabel.text =...
Estoy tratando de realizar una división simple en Go. fmt.Println(3/10) Esto imprime 0 en lugar de 0,3. Esto es un poco raro. ¿Podría alguien compartir cuál es la razón detrás de esto? Quiero realizar diferentes operaciones aritméticas en Go. Gracias
¿Cómo se convierte un flotante en una cadena en C ++ mientras se especifica la precisión y el número de dígitos decimales? Por ejemplo: 3.14159265359 -> "3.14"