Preguntas etiquetadas con dc

12
Perder precisión con cc

Quiero usar dcpara manejar algunos números de base 16 con puntos hexadecimales, pero me encuentro con problemas de precisión. Por ejemplo, a continuación estoy multiplicando F423F.FDpor 100, ambos hex. La respuesta esperada es F423FFD, en cambio, es F423FFA.E1cercana, pero no lo suficientemente...