Reconocimiento de voz: "Sí" o "No"?

33

Tarea

Implemente un programa en bytes mínimos de código fuente o binario que haga reconocimiento de voz de una muestra de voz (yo digo "sí", "sí" o "no" en voz o en susurro, simple o peculiarmente) en base a muestras de entrenamiento con la máxima precisión .

El programa debe leer train/yes0.wav, train/no0.wav, train/yes1.wavy así sucesivamente (hay 400 síes y 400 noes en formación de datos), a continuación, comenzar a leer inputs/0.wav, inputs/1.wavhasta que no encuentra el archivo, analizarlo y dar salida a "sí" o (u otra palabra "no" por respuesta intermedia).

Si lo desea, puede entrenar previamente el programa en lugar de leerlo train/, pero la tabla de datos resultante cuenta para el puntaje (y tenga cuidado de adaptarse demasiado a las muestras de entrenamiento, no se superponen con las del examen). Es mejor incluir el programa utilizado para producir la tabla de datos como un anexo en este caso.

Todos los archivos de muestra son pequeños archivos WAV estéreo endian de 16 bits, solo del micrófono de una computadora portátil, sin filtro / reducción de ruido.

Límites

Características prohibidas:

  • Usando la red;
  • Intentando llegar al archivo de respuestas inputs/key;
  • Subvertir el runnerprograma que calcula la precisión;
  • Utilizando bibliotecas de reconocimiento existentes. No se permite vincular a la implementación de FFT: solo se permiten funciones matemáticas externas que toman una cantidad constante de información (como sino atan2); Si desea FFT, simplemente agregue su implementación al código fuente de su programa (puede ser multilingüe si es necesario).

Límites de recursos:

  • El programa no debería tomar más de 30 minutos de tiempo de CPU en mi computadora portátil i5. Si se necesita más, solo se cuenta la producción producida en los primeros 30 minutos y se supone que todo lo demás es un medio partido;
  • Límite de memoria: 1 GB (incluidos los archivos temporales);

Herramientas

El tools/runnerprograma ejecuta automáticamente su solución y calcula la precisión.

$ tools/runner solutions/example train train/key 
Accuracy: 548 ‰

Puede examinar el programa usando datos de entrenamiento o usando datos de exámenes reales. Probaré las respuestas enviadas en el conjunto de datos del examen y publicaré los resultados (porcentaje de precisión) hasta que haga público el conjunto de datos.

Tanteo

Hay 5 clases de solución según la precisión:

  • Todas las muestras se adivinaron correctamente: clase 0;
  • Precisión 950-999: Clase 1;
  • Precisión 835-950: clase 2;
  • Precisión 720-834: clase 3;
  • Precisión 615-719: clase 4;

Dentro de cada clase, el puntaje es el número de bytes que toma la solución.

Respuesta aceptada: la solución más pequeña en la mejor clase no vacía.

Campo de golf

Todas las muestras deben considerarse CC-0 (dominio público), los scripts y los programas deben considerarse MIT.

Solución de ejemplo

Proporciona una calidad de reconocimiento muy pobre, solo muestra cómo leer archivos y generar respuestas

#define _BSD_SOURCE
#include <stdio.h>
#include <assert.h>
#include <endian.h>


#define Nvols 30

#define BASS_WINDOW 60
#define MID_WINDOW 4

struct training_info {
    double bass_volumes[Nvols];
    double mid_volumes[Nvols];
    double treble_volumes[Nvols];
    int n;
};


struct training_info yes;
struct training_info no;

static int __attribute__((const)) mod(int n, int d) {
    int m = n % d;
    if (m < 0) m+=d;
    return m;
}

// harccoded to 2 channel s16le
int get_file_info(const char* name, struct training_info *inf) {
    FILE* in = fopen(name, "rb");

    if (!in) return -1;

    setvbuf(in, NULL, _IOFBF, 65536);

    inf->n = 1;

    fseek(in, 0, SEEK_END);
    long filesize = ftell(in);
    fseek(in, 128, SEEK_SET);
    filesize -= 128; // exclude header and some initial samples

    int nsamples = filesize / 4; 

    double bass_a=0, mid_a=0;
    const int HISTSIZE  = 101;
    double xhistory[HISTSIZE];
    int histpointer=0;
    int histsize = 0;

    //FILE* out = fopen("debug.raw", "wb");

    int i;
    for (i=0; i<Nvols; ++i) {
        int j;

        double total_vol = 0;
        double bass_vol = 0;
        double mid_vol = 0;
        double treble_vol = 0;

        for (j=0; j<nsamples / Nvols; ++j) {
            signed short int l, r; // a sample
            if(fread(&l, 2, 1, in)!=1) break;
            if(fread(&r, 2, 1, in)!=1) break;
            double x = 1/65536.0 * ( le16toh(l) + le16toh(r) );


            bass_a += x;
            mid_a  += x;


            if (histsize == HISTSIZE-1) bass_a   -= xhistory[mod(histpointer-BASS_WINDOW,HISTSIZE)];
            if (histsize == HISTSIZE-1) mid_a    -= xhistory[mod(histpointer-MID_WINDOW ,HISTSIZE)];

            double bass = bass_a / BASS_WINDOW;
            double mid = mid_a / MID_WINDOW - bass;
            double treble = x - mid_a/MID_WINDOW;

            xhistory[histpointer++] = x;
            if(histpointer>=HISTSIZE) histpointer=0;
            if(histsize < HISTSIZE-1) ++histsize;

            total_vol  += bass*bass + mid*mid + treble*treble;
            bass_vol   += bass*bass;
            mid_vol    += mid*mid;
            treble_vol += treble*treble;


            /*
            signed short int y;
            y = 65536 * bass;

            y = htole16(y);
            fwrite(&y, 2, 1, out);
            fwrite(&y, 2, 1, out);
            */
        }

        inf->bass_volumes[i] = bass_vol / total_vol;
        inf->mid_volumes[i] = mid_vol / total_vol;
        inf->treble_volumes[i] = treble_vol / total_vol;

        //fprintf(stderr, "%lf %lf %lf    %s\n", inf->bass_volumes[i], inf->mid_volumes[i], inf->treble_volumes[i], name);
    }
    fclose(in);

    return 0;
}

static void zerotrdata(struct training_info *inf) {
    int i;
    inf->n = 0;
    for (i=0; i<Nvols; ++i) {
        inf->bass_volumes[i] = 0;
        inf->mid_volumes[i] = 0;
        inf->treble_volumes[i] = 0;
    }
}

static void train1(const char* prefix, struct training_info *inf) 
{
    char buf[50];

    int i;

    for(i=0;; ++i) {
        sprintf(buf, "%s%d.wav", prefix, i);
        struct training_info ti;
        if(get_file_info(buf, &ti)) break;

        ++inf->n;

        int j;
        for (j=0; j<Nvols; ++j) {
            inf->bass_volumes[j]   += ti.bass_volumes[j];
            inf->mid_volumes[j]    += ti.mid_volumes[j];
            inf->treble_volumes[j] += ti.treble_volumes[j];
        }
    }

    int j;
    for (j=0; j<Nvols; ++j) {
        inf->bass_volumes[j]   /= inf->n;
        inf->mid_volumes[j]    /= inf->n;
        inf->treble_volumes[j] /= inf->n;
    }
}

static void print_part(struct training_info *inf, FILE* f) {
    fprintf(f, "%d\n", inf->n);
    int j;
    for (j=0; j<Nvols; ++j) {
        fprintf(f, "%lf %lf %lf\n", inf->bass_volumes[j], inf->mid_volumes[j], inf->treble_volumes[j]);
    }
}

static void train() {
    zerotrdata(&yes);
    zerotrdata(&no);

    fprintf(stderr, "Training...\n");

    train1("train/yes", &yes);
    train1("train/no", &no);

    fprintf(stderr, "Training completed.\n");

    //print_part(&yes, stderr);
    //print_part(&no, stderr);

    int j;
    for (j=0; j<Nvols; ++j) {
        if (yes.bass_volumes[j]   > no.bass_volumes[j]) {   yes.bass_volumes[j] = 1;   no.bass_volumes[j] = 0; }
        if (yes.mid_volumes[j]    > no.mid_volumes[j]) {    yes.mid_volumes[j] = 1;    no.mid_volumes[j] = 0; }
        if (yes.treble_volumes[j] > no.treble_volumes[j]) { yes.treble_volumes[j] = 1; no.treble_volumes[j] = 0; }
    }
}


double delta(struct training_info *t1, struct training_info *t2) {
    int j;
    double d = 0;
    for (j=0; j<Nvols; ++j) {
        double rb = t1->bass_volumes[j] - t2->bass_volumes[j];
        double rm = t1->mid_volumes[j] - t2->mid_volumes[j];
        double rt = t1->treble_volumes[j] - t2->treble_volumes[j];
        d += rb*rb + rm*rm + rt*rt;
    }
    return d;
}

int main(int argc, char* argv[])
{
    (void)argc; (void)argv;

    train();


    int i;

    int yes_count = 0;
    int no_count = 0;

    for (i=0;; ++i) {
        char buf[60];
        sprintf(buf, "inputs/%d.wav", i);

        struct training_info ti;

        if(get_file_info(buf, &ti)) break;

        double dyes = delta(&yes, &ti);
        double dno = delta(&no, &ti);

        //printf("%lf %lf %s ", dyes, dno, buf);

        if (dyes > dno) {
            printf("no\n");
            ++no_count;
        } else  {
            printf("yes\n");
            ++yes_count;
        }
    }

    fprintf(stderr, "yeses: %d noes: %d\n", yes_count, no_count);

}
Vi.
fuente
55
no hay bibliotecas fft? ¿Por qué?
John Dvorak
1
¿Qué pasa con las funciones FFT incorporadas? ¿Qué cuenta exactamente como externo? Además, ¿qué cuenta como una función de biblioteca matemática? ¿Se nos permite usar sum, o tenemos que usarlo foldl (+) 0(foldl no es específico de matemáticas y +no es variable)?
John Dvorak
1
aún así ... estás efectivamente prohibiendo sum. Supongo que esa no es tu intención?
John Dvorak
1
¿Cuál es la definición exacta de las funciones matemáticas? ¿Los que están especializados para operar con números? ¿Qué pasa con una función genérica de "suma" que utiliza la suma de números, pero la concatenación de cadenas? ¿Esta suma ahora está permitida?
John Dvorak
1
¿Qué pasa con las operaciones vectoriales de J? ¿Están prohibidos?
John Dvorak

Respuestas:

27

C ++ 11 (gcc; 1639 1625 1635 bytes, Clase 1, puntaje = 983, 960)

Vamos a ponerlo en marcha. Es probablemente el código más largo que he acortado ...

#include <bits/stdc++.h>
#define $ complex<double>
#define C vector<$>
#define I int
#define D double
#define P pair<D,I>
#define Q pair<D,D>
#define E vector<D>
#define V vector<P>
#define W vector<Q>
#define S char*
#define Z(x)if(fread(&x,2,1,y)!=1)break;
#define B push_back
#define F(i,f,t)for(I i=f;i<t;i++)
#define _ return
#define J first
#define L second
const I K=75,O=16384;using namespace std;C R(C&i,I s,I o=0,I d=1){if(!s)_ C(1,i[o]);C l=R(i,s/2,o,d*2),h=R(i,s/2,o+d,d*2);C r(s*2);$ b=exp($(0,-M_PI/s)),f=1;F(k,0,s){r[k]=l[k]+f*h[k];r[k+s]=l[k]-f*h[k];f*=b;}_ r;}C T(C&i){_ R(i,i.size()/2);}char b[O];E U(S m){FILE*y;if(!(y=fopen(m,"r")))_ E();setvbuf(y,b,0,O);fseek(y,0,2);I z=ftell(y)/4-32;fseek(y,128,0);C p;F(i,0,z){short l,r;Z(l);Z(r);if(i&1)p.B($(0.5/O*le16toh(l),0));}p.resize(O);E h(O),n(O);p=T(p);F(j,0,O)h[j]=norm(p[j])/O;F(i,1,O-1)n[i]=(h[i-1]+h[i+1]+h[i]*8)/10;fclose(y);_ n;}W G(E&d){V p;F(i,3,O/2-3)if(d[i]==*max_element(d.begin()+i-3,d.begin()+i+4))p.B({d[i],i});sort(p.begin(),p.end(),greater<P>());W r;F(i,3,K+3)r.B({D(p[i].L)/O*22050,log(p[i].J)+10});D s=0;F(i,0,K)s+=r[i].L;F(i,0,K)r[i].L/=s;_ r;}char m[O];I X(S p,W&r){E t(O),h(t);I f=0;while(1){sprintf(m,"%s%d.wav",p,f++);h=U(m);if(!h.size())break;F(j,0,O)t[j]+=h[j];}F(j,0,O)t[j]/=f;r=G(t);}D Y(W&a,W&b){D r=0;F(i,0,K){D d=b[i].L;F(j,0,K)if(abs((b[i].J-a[j].J)/b[i].J)<0.015)d=min(d,abs(b[i].L-a[j].L));r+=d;}_ r;}I H(S p,W&y,W&n){I f=0;while(1){sprintf(m,"%s%d.wav",p,f++);E h=U(m);if(!h.size())break;W p=G(h);D q=Y(p,y),r=Y(p,n);printf(abs(q-r)<=0.01?"?\n":q<r?"yes\n":"no\n");}}I main(){W y,n;X("train/yes",y);X("train/no",n);H("inputs/",y,n);}

"Ungolfed" (aunque es difícil llamar golfed a un código fuente de más de 1.5K):

#include <iostream>
#include <stdio.h>
#include <string>
#include <algorithm>
#include <vector>
#include <math.h>
#include <complex>
#include <endian.h>
#include <functional>

using namespace std;

typedef complex<double> CD;

vector<CD> run_fft(vector<CD>& input, int offset, int size, int dist){
    if(size == 1){
        return vector<CD>(1, input[offset]);
    }
    vector<CD> partLow = run_fft(input, offset, size/2, dist*2),
               partHi  = run_fft(input, offset+dist, size/2, dist*2);

    vector<CD> result(size);
    CD factorBase = exp(CD(0, (inv?2:-2)*M_PI/size)), factor = 1;

    for(int k = 0; k < size/2; k++){
        result[k] = partLow[k] + factor*partHi[k];
        result[k+size/2] = partLow[k] - factor*partHi[k];
        factor *= factorBase;
    }
    return result;
}

vector<CD> fft(vector<CD>& input){
    int N = input.size();
    return run_fft(input, 0, N, 1);
}



const int MAX_BUF = 65536;
const int PWR_TWO = 16384;
const int NUM_CHECK = 75;
int sampling;

char buf[MAX_BUF];
vector<double> read_data(char* filenam){
    FILE* fp = fopen(filenam, "r");
    if(!fp)
        return vector<double>();
    setvbuf(fp, buf, _IOFBF, MAX_BUF);

    fseek(fp, 0, SEEK_END);
    int filesiz = ftell(fp);
    fseek(fp, 128, SEEK_SET);
    filesiz -= 128;

    int insamp = filesiz / 4;
    int freqsamp = 2,
        act_mod = 0;
    sampling = 44100 / freqsamp;
    int inputSize;

    vector<CD> input;

    for(int i = 0; i < insamp; i++){
        signed short int l, r;
        if(fread(&l, 2, 1, fp) != 1) break;
        if(fread(&r, 2, 1, fp) != 1) break;

        double act = 1/32768.0 * (le16toh(l));

        if((++act_mod) == freqsamp){
            inputSize++;
            input.push_back(CD(act,0));
            act_mod = 0;
        }
    }
    inputSize = input.size();

    //printf("%s\n", filenam);
    int numParts = (inputSize+PWR_TWO-1)/PWR_TWO;
    double partDelta = (double)inputSize / numParts, actDelta = 0;
    vector<CD> ndata(PWR_TWO);
    for(int i = 0; i < numParts; i++){
        vector<CD> partInput(PWR_TWO);
        int from = floor(actDelta),
            to = floor(actDelta)+PWR_TWO;

        for(int j = from; j < to; j++)
            partInput[j-from] = input[j];

        vector<CD> partData = fft(partInput);
        for(int j = 0; j < PWR_TWO; j++)
            ndata[j] += partData[j]*(1.0/numParts);
    }


    vector<double> height(PWR_TWO);
    for(int i = 0; i < PWR_TWO; i++)
        height[i] = norm(ndata[i])/PWR_TWO;

    vector<double> nheight(height);
    nheight[0] = (height[0]*0.8 + height[1]*0.1)/0.9;
    nheight[PWR_TWO-1] = (height[PWR_TWO]*0.8 + height[PWR_TWO-1]*0.1)/0.9;
    for(int i = 1; i < PWR_TWO-1; i++)
        nheight[i] = height[i-1]*0.1 + height[i]*0.8 + height[i+1]*0.1;

    fclose(fp);

    return nheight;
}


vector< pair<double,double> > get_highest_peaks(vector<double>& freqData){
    vector< pair<double,int> > peaks;

    for(int i = 3; i < PWR_TWO/2-3; i++){
        if(freqData[i] == *max_element(freqData.begin()+i-3, freqData.begin()+i+4)){
            peaks.push_back(make_pair(freqData[i], i));
        }
    }

    sort(peaks.begin(), peaks.end(), greater< pair<double,int> >());

    vector< pair<double,double> > res;
    for(int i = 3; i < NUM_CHECK+3; i++){
        res.push_back(make_pair((double)(peaks[i].second)/PWR_TWO*sampling, log(peaks[i].first)+10));
    }

    double sum_res = 0;
    for(int i = 0; i < NUM_CHECK; i++)
        sum_res += res[i].second;
    for(int i = 0; i < NUM_CHECK; i++)
        res[i].second /= sum_res;

    /*for(int i = 0; i < NUM_CHECK; i++)
        printf("%12lf %12lf\n", res[i].first, res[i].second);
    printf("\n");*/

    return res;
}


void train(char* dir, const char* type, vector< pair<double,double> >& res){
    vector<double> result(PWR_TWO), height(PWR_TWO);

    int numFile = 0;
    while(true){
        char filenam[256];
        snprintf(filenam, 255, "%s/%s%d.wav", dir, type, numFile);
        height = read_data(filenam);

        if(height.size() == 0)
            break;

        for(int j = 0; j < PWR_TWO; j++)
            result[j] += height[j];

        numFile++;
    }
    fprintf(stderr, "trained %s on %d files\n", type, numFile);

    for(int j = 0; j < PWR_TWO; j++)
        result[j] /= numFile;

    res = get_highest_peaks(result);
}


double dist_ab(vector< pair<double,double> >& A, vector< pair<double,double> >& B){
    double result = 0;
    for(int i = 0; i < NUM_CHECK; i++){
        double add = B[i].second;

        for(int j = 0; j < NUM_CHECK; j++){
            double dist = (B[i].first-A[j].first)/B[i].first;
            if(abs(dist) < 0.015)
                add = min(add, abs(B[i].second - A[j].second));
        }
        result += add;
    }
    return result;
}


void trial(char* dir, const char* pref, vector< pair<double,double> >& yes,
                                        vector< pair<double,double> >& no){
    int numFile = 0;
    int numYes = 0, numDunno = 0, numNo = 0;
    while(true){
        char filenam[256];
        snprintf(filenam, 255, "%s/%s%d.wav", dir, pref, numFile);

        vector<double> height = read_data(filenam);
        if(height.size() == 0)
            break;

        vector< pair<double,double> > peaks = get_highest_peaks(height);


        double distYes = dist_ab(peaks, yes),
               distNo = dist_ab(peaks, no);

        if(abs(distYes-distNo) <= 0.01){
            printf("dunno\n");
            numDunno++;
        } else if(distYes < distNo){
            printf("yes\n");
            numYes++;
        } else {
            printf("no\n");
            numNo++;
        }
        //printf(" (%lf %lf)\n", distYes, distNo);

        numFile++;
    }
}


int main(int argc, char** argv){
    vector< pair<double,double> > yes, no;


    train("train", "yes", yes);
    train("train", "no", no);

    trial("inputs", "", yes, no);
}

No tengo ni idea de si funcionará correctamente en un conjunto de datos real (apuesto a que no lo hará, pero debo intentarlo).

Cómo funciona:

  1. Toma N = 2 14 muestras del canal izquierdo, cada una en el mismo lapso de tiempo. Normalícelos de modo que el valor mínimo = 0 y el valor máximo = 1.
  2. Procesarlos usando FFT. Ahora cambiamos del dominio del tiempo al dominio de la frecuencia. Podríamos decir que la celda 0 de la matriz resultante es equivalente a 0Hz y la celda 2 13 -1 es equivalente a 22050Hz (eso es porque tomé cualquier otra muestra del canal L, por lo que mi muestreo es 22050Hz en lugar de la frecuencia de WAV, 44100Hz).
  3. Encuentre la media de todas esas señales, llámela "distribución de frecuencia media". Encuentre K picos más altos en dicha distribución (aquí K = 75), omitiendo los primeros (probablemente ruido) y encuentre su fuerza. solíalog(mean distribution)+10 y luego normalicé para que la suma de los picos más grandes fuera 1.
  4. Tenemos dos "distribuciones máximas": una para Sí, la segunda para No. Si tenemos un WAV para probar, lo transformamos de la misma manera que antes (pasos 1, 2, 3) y obtenemos la distribución D. Luego tenemos que verifique qué distribución (S / N) D es más similar a. Utilicé el siguiente enfoque: para cada pico en Y / N, trate de encontrarlo en D. Si lo encontramos (aproximadamente), la puntuación para este pico es la diferencia absoluta entre la fuerza de Y / N y D; en caso contrario, es la fuerza de Y / N (suponemos que siempre es positiva). Mejor puntuación (más pequeña) gana. Si los resultados son muy cercanos (utilicé 0.01 diferencia absoluta), salida dunno.

Como dije, probablemente en las pruebas finales se clasificará como "incluso peor que al azar". Por supuesto, espero que no sea así: D

Editar: error corregido (olvidé cerrar los archivos).

mnbvmar
fuente
1
Estás de suerte si se realiza worse than random. Literalmente, solo necesita cambiar un byte distYes > distNo, y lo hará better than random. O para decirlo de otra manera, ¡sería bastante sorprendente si pudieras adivinar el resultado de un lanzamiento de moneda incorrecto 100 veces seguidas! Y no es extraño que los algoritmos simples superen el rendimiento de los más complejos, por lo que +1 y les deseo buena suerte.
blutorange
Pruebas ... Termina prematuramente debido a EMFILE (Too many open files)... Tratando de arreglar ...
Vi.
Contador máximo de archivos abiertos, ahora funciona. Resultados: la formación conjunto de datos: Accuracy: 983 ‰; Time: 0m27.570s;; conjunto de datos de examen: Accuracy: 960 ‰; Time: 0m32.957s. Buen trabajo.
Vi.
Vale, arreglé esto. 10 bytes más. :)
mnbvmar
Increíble uso de #defines: P
qwr