¿Encontrar archivos con el mismo nombre pero diferente contenido?

9

Quiero generar una lista de archivos que tienen:

  • Mismo nombre
  • Contenido diferente

en un directorio (incluidos todos los directorios y contenidos secundarios).

¿Cómo hacer? Bash, perl, todo está bien.

Por lo tanto, dos archivos con el mismo nombre y el mismo contenido no deberían aparecer.

Nicolas Raoul
fuente
¿Supongamos que hay tres archivos con el mismo nombre y dos de los tres son idénticos?
Kyle Jones
@KyleJones: "tres archivos con el mismo nombre y dos de los tres son idénticos"> Entonces este nombre de archivo debe agregarse a la lista
Nicolas Raoul

Respuestas:

8

Actualización: se corrigió un error tipográfico en el script: se cambió print $NFa print $3; También arregló las cosas y agregó algunos comentarios.

Suponiendo que los nombres de archivo no contienen \n, lo siguiente imprime una lista ordenada que se divide (como en: cortes de control de sección ) en unique file name, unique md5sumy muestra el grupo correspondiente de rutas de archivos.

#!/bin/bash

# Choose which script to use for the final awk step 
out_script=out_all

# Print all duplicated file names, even when md5sum is the same 
out_all='{ if( p1 != $1 ) { print nl $1; print I $2 }
      else if( p2 != $2 ) { print I $2 }
      print I I $3; p1=$1; p2=$2; nl="\n" }
   END { printf nl}'

# Print only duplicated file names which have multiple md5sums.
out_only='{ if( p1 != $1 ) { if( multi ) { print pend }
                             multi=0; pend=$1 "\n" I $2 "\n" }
       else if( p2 != $2 ) { multi++; pend=pend I $2 "\n" } 
       pend=pend I I $3 "\n"; p1=$1; p2=$2 } 
   END { if( multi ) print pend }'

# The main pipeline 
find "${1:-.}" -type f -name '*' |  # awk for duplicate names
awk -F/ '{ if( name[$NF] ) { dname[$NF]++ }
           name[$NF]=name[$NF] $0 "\n" } 
     END { for( d in dname ) { printf name[d] } 
   }' |                             # standard md5sum output 
xargs -d'\n' md5sum |               # " "==text, "*"==binary
sed 's/ [ *]/\x00/' |               # prefix with file name  
awk -F/ '{ print $3 "\x00" $0 }' |  # sort by name. md5sum, path 
sort |                              # awk to print result
awk -F"\x00" -v"I=   " "${!out_script}"

Salida que muestra solo nombres de archivo con múltiples md5 s

afile.html
   53232474d80cf50b606069a821374a0a
      ./test/afile.html
      ./test/dir.svn/afile.html
   6b1b4b5b7aa12cdbcc72a16215990417
      ./test/dir.svn/dir.show/afile.html

Salida que muestra todos los archivos con el mismo nombre.

afile.html
   53232474d80cf50b606069a821374a0a
      ./test/afile.html
      ./test/dir.svn/afile.html
   6b1b4b5b7aa12cdbcc72a16215990417
      ./test/dir.svn/dir.show/afile.html

fi    le.html
   53232474d80cf50b606069a821374a0a
      ./test/dir.svn/dir.show/fi    le.html
      ./test/dir.svn/dir.svn/fi    le.html

file.html
   53232474d80cf50b606069a821374a0a
      ./test/dir.show/dir.show/file.html
      ./test/dir.show/dir.svn/file.html

file.svn
   53232474d80cf50b606069a821374a0a
      ./test/dir.show/dir.show/file.svn
      ./test/dir.show/dir.svn/file.svn
      ./test/dir.svn/dir.show/file.svn
      ./test/dir.svn/dir.svn/file.svn

file.txt
   53232474d80cf50b606069a821374a0a
      ./test/dir.show/dir.show/file.txt
      ./test/dir.show/dir.svn/file.txt
      ./test/dir.svn/dir.show/file.txt
      ./test/dir.svn/dir.svn/file.txt
Peter.O
fuente
1

Aquí hay un script de Perl. Ejecútelo en el directorio en la parte superior del árbol que desea buscar. El script depende de findy md5, pero este último se puede sustituir por sha1, sumo cualquier otro programa de hash de archivo que acepte la entrada de la entrada estándar y envía un hash en la salida estándar.

use strict;

my %files;
my %nfiles;
my $HASHER = 'md5';

sub
print_array
{
    for my $x (@_) {
        print "$x\n";
    }
}

open FINDOUTPUT, "find . -type f -print|" or die "find";

while (defined (my $line = <FINDOUTPUT>)) {
    chomp $line;
    my @segments = split /\//, $line;
    my $shortname = pop @segments;
    push @{ $files{$shortname} }, $line;
    $nfiles{$shortname}++;
}

for my $shortname (keys %files) {
    if ($nfiles{$shortname} < 2) {
        print_array @{ $files{$shortname} };
        next;
    }
    my %nhashes;
    my %revhashes;
    for my $file (@{ $files{$shortname} }) {
        my $hash = `$HASHER < $file`;
        $revhashes{$hash} = $file;
        $nhashes{$hash}++;
    }
    for my $hash (keys %nhashes) {
        if ($nhashes{$hash} < 2) {
            my $file = $revhashes{$hash};
            print "$file\n";
        }
    }
}
Kyle Jones
fuente
1

finddup esta herramienta también puede ayudarlo a enumerar los archivos con el mismo nombre o contenido.

usuario379997
fuente
1

Para aquellos que quieren ver solamente una lista de nombres de archivo, aquí está la parte correspondiente del Peter.O 's respuesta :

find "${1:-.}" -type f -name '*' | 
awk -F/ '{ if( name[$NF] ) { dname[$NF]++ }
       name[$NF]=name[$NF] $0 "\n" } 
 END { for( d in dname ) { printf name[d] "\n" } 

} '

No necesito md5sums porque lo uso fslint-guiantes del script para borrar todos los duplicados.

int_ua
fuente
en mi mac, esto muestra los archivos duplicados con el mismo nombre y el mismo contenido
nightograph