Una de las formas más comunes de determinar si dos archivos son idénticos (suponiendo que sus tamaños coincidan) es usar un programa para crear un " hash " (esencialmente una huella digital) de un archivo. Los más comunes son md5sum
y sha1sum
.
Por ejemplo:
$ md5sum file1 file2
e0e7485b678a538c2815132de7f9e878 file1
4a14aace18d472709ccae3910af55955 file2
Si tiene muchos archivos que necesita verificar, por ejemplo, si está transfiriendo un directorio lleno de archivos de un sistema a otro, puede redirigir la salida del sistema original a un archivo, luego md5sum
/ sha1sum
puede usar automáticamente ese archivo para indicar usted qué archivos son diferentes:
$ md5sum file1 file2 > MD5SUMS
... copy file1, file2, MD5SUMS across
$ md5sum --check MD5SUMS
file1: OK
file2: OK
Encontré una solución: la herramienta cmp que viene con la mayoría de los sabores de Linux.
fuente
Si solo quiero saber si son iguales, prefiero usar sha1sum si está disponible, o md5 como alternativa.
Si quiero saber qué tan diferentes son, o dónde son diferentes, una cosa que funciona es ponerlos a ambos a través de od ('volcado octal', que generalmente tiene una opción hexadecimal) para crear archivos temporales y luego diferirlos.
fuente
Acabo de ejecutar algunos puntos de referencia en un archivo de más de 100 MB. diff fue el más rápido, mientras que cmp quedó en segundo lugar, y el uso de md5sum fue el último.
Volví a realizar el ejercicio con un archivo de 4,3 GB y tuve que eliminar y volver a crear el archivo con dd ya que el almacenamiento en caché de RAM estaba afectando en gran medida los resultados.
En base a estos resultados, recomendaría mover los archivos a un montaje RAMFS y seguir con diff.
fuente