¿Por qué el factor az de 1 se convierte en 0.999998 en mi salida

9

Acabo de construir un modelo que usa 3D Analyst - Surface Volume Estoy tratando de usar el factor az de 1. Cada vez que ejecuto el modelo, mi tabla de resultados muestra que se usó un factor Z de 0.999998 en lugar de 1. Sé que esta es una diferencia muy pequeña, pero aun así, está sesgando un poco mis resultados. Realmente lo que me gustaría saber, ¿hay una buena explicación de por qué se cambia a 0.999998 o hay una manera de hacer que permanezca en 1?


Gracias de nuevo por tu aportación. Cuando intenté cambiar el tipo de ráster, la herramienta atenúa el factor z y lo bloquea en 0.999998. Entonces ... supongo que realmente no hay forma de evitar esto usando datos enteros o de punto flotante. Incluso intenté convertir a entero y usar la calculadora ráster para multiplicar los datos por 1000 para preservar los decimales en forma de entero, pero todavía estaba atascado con el factor z 0.999998. No dados.

GeoJohn
fuente
66
Diría que debido a que es un punto flotante, no existe tal cosa como 1 en flotación - ver en.wikipedia.org/wiki/IEEE_floating_point
Michael Stimson
3
Sí, el factor Z es un punto flotante ya que la mayoría de los rásteres DEM / DSM suelen ser flotantes de 32 bits. Intente convertir su ráster int en un flotante también vea resources.arcgis.com/en/help/main/10.1/index.html#//…
Michael Stimson
3
@Michael En realidad, cualquier número que no sea un múltiplo integral de una pequeña potencia de 2 (incluidas las potencias negativas) no se expresará exactamente en coma flotante. Quizás el más destacado de esos sería 0.1. En cuanto a la fuente del error de escala z, solo puedo adivinar. Mi conjetura se centraría en la posibilidad de que, debajo del capó, los cálculos se puedan realizar utilizando una representación entera de las elevaciones y, al final, esas se vuelvan a convertir. Quizás lo mejor es corregir los resultados después de que se producen: simplemente multiplique todos los volúmenes por 1 / 0.999998.
Whuber
1
@Michael antes de utilizar esta otra solución, también intenté usar un factor z de 1.000002 que mágicamente volvería a 0.999998 durante el funcionamiento de la herramienta. Entonces, no estoy seguro si fue algo que estaba haciendo mal o no. En otras palabras, no importa qué factor z ingrese, la herramienta la cambiará a 0.999998 en tiempo de ejecución.
GeoJohn
44
John, siento que es hora de contactar al soporte de Esri y preguntarles por qué siempre cambia al factor de escala 0.999998 y cómo usar un factor de escala de 1.
Michael Stimson

Respuestas:

1

Tengo que estar de acuerdo con los comentarios, se trata de cómo quieres representar ese número. Si desea almacenar el número 1 como punto flotante, ArcGIS almacenó este número como 0,9999 ... Parece que este argumento del factor Z se almacena de esa manera. Creo que no hay forma de almacenarlo como entero. De hecho, 0,9999 es igual a 1.

Debo agregar una foto que vi hace unos días. Se ajusta a esta pregunta. ingrese la descripción de la imagen aquí

david_p
fuente