¿Cuáles son las estadísticas de la transformada discreta de Fourier del ruido blanco gaussiano?

10

Considere una señal de ruido gaussiana blanca . Si tomamos muestras de esta señal y calculamos la transformada discreta de Fourier, ¿cuáles son las estadísticas de las amplitudes de Fourier resultantes?x(t)

DanielSank
fuente
1
Tienes que comenzar con una señal gaussiana blanca de tiempo discreto . El muestreo de un proceso blanco de tiempo continuo está matemáticamente mal definido, porque la función de autocorrelación de ese proceso se describe mediante una distribución delta de Dirac. Dado que la autocorrelación del proceso muestreado es una versión muestreada de la autocorrelación del proceso continuo original, deberá considerar una versión muestreada de la distribución delta de Dirac, que no está definida.
Matt L.
@MattL. "[La] autocorrelación del proceso muestreado es una versión muestreada de la autocorrelación del proceso continuo original ...". Esto no es obvio para mí, en realidad. Explicar que sería una pregunta y respuesta útiles.
DanielSank
Tenga en cuenta que las respuestas se mantendrán para cualquier transformación unitaria del ruido blanco gaussiano.
Royi
@Royi No estoy de acuerdo con tu edición. ¿Puede proporcionar un enlace que indique que la mayúscula que ha utilizado en el título es coherente con una política del sitio?
DanielSank
Restaurado tu estilo. Lo principal en la edición fue agregar etiquetas relevantes.
Royi

Respuestas:

15

Herramientas matemáticas

Podemos hacer el cálculo utilizando algunos elementos básicos de la teoría de probabilidad y el análisis de Fourier. Hay tres elementos (denotamos la densidad de probabilidad de una variable aleatoriaX al valor X como PAGSX(X)):

  1. Dada una variable aleatoria X con distribución PAGSX(X), la distribución de la variable escalada Y=unaX es PAGSY(y)=(1/ /una)PAGSX(y/ /una).

  2. La distribución de probabilidad de una suma de dos variables aleatorias es igual a la convolución de las distribuciones de probabilidad de los sumandos. En otras palabras, siZ=X+Y entonces PAGSZ(z)=(PAGSXPAGSY)(z) dónde indica convolución.

  3. La transformada de Fourier de la convolución de dos funciones es igual al producto de las transformadas de Fourier de esas dos funciones. En otras palabras:

reX(Fsol)(X)mi-yokX=(reXF(X)mi-yokX)(reXsol(X)mi-yokX).

Cálculo

Denota el proceso aleatorio como X(t). El muestreo discreto produce una secuencia de valores.Xnorteque suponemos no estar estadísticamente correlacionados. También asumimos que para cadanorte Xnorte es gaussiano distribuido con desviación estándar σ. Denotamos la función gaussiana con desviación estándarσ por el símbolo solσ entonces diríamos que PAGSXnorte(X)=solσ(X).

Las amplitudes discretas de transformadas de Fourier se definen como

Xknorte=0 0norte-1Xnortemi-yo2πnortek/ /norte.
Centrándonos por ahora en la parte real que tenemos
Xk=norte=0 0norte-1Xnortecos(2πnortek/ /norte).
Esto es solo una suma, así que según la regla # 2, la distribución de probabilidad de Xkes igual a la convolución múltiple de las distribuciones de probabilidad de los términos que se suman. Reescribimos la suma como
Xk=norte=0 0norte-1ynorte
dónde
ynorteXnortecos(2πnortek/ /norte).
El factor coseno es un factor de escala determinista. Sabemos que la distribución deXnorte es solσ entonces podemos usar la regla # 1 de arriba para escribir la distribución de ynorte:
PAGSynorte(y)=1cos(2πnortek/ /norte)solσ(ycos(2πnortek/ /norte))=solσCnorte,k(y)
donde por brevedad de notación hemos definido Cnorte,kcos(2πnortek/ /norte).

Por lo tanto, la distribución de Xk es la convolución múltiple sobre las funciones solσCnorte,k:

PXk(x)=(Gσc0,kGσc1,k)(x).

No es obvio cómo hacer la convolución múltiple, pero usar la regla # 3 es fácil. Denotando la transformada de Fourier de una función porF tenemos

F(PXk)=n=0N-1F(solσCnorte,k).

La transformada de Fourier de un gaussiano con ancho σ es otro gaussiano con ancho 1/ /σ, entonces obtenemos

F(PAGSXk)(ν)=norte=0 0norte-1sol1/ /σCnorte,k=norte=0 0norte-1σ2Cnorte,k22πExp[-ν22(1/ /σ2Cnorte,k2)]=(σ22π)norte/ /2(norte=0 0norte-1Cnorte,k)Exp[-ν22σ2norte=0 0norte-1cos(2πnortek/ /norte)2].
Todas las cosas que preceden al exponencial son independientes de νy, por lo tanto, son factores de normalización, por lo que los ignoramos. La suma es justanorte/ /2 entonces obtenemos
F(PXk)exp[ν22σ2N2]=G2/σ2N
y por lo tanto
PXk=GσN/2.

Por lo tanto, hemos calculado la distribución de probabilidad de la parte real del coeficiente de Fourier Xk. Es gaussiano distribuido con desviación estándarσN/2. Tenga en cuenta que la distribución es independiente del índice de frecuenciak, lo que tiene sentido para el ruido no correlacionado. Por simetría, la parte imaginaria debe distribuirse exactamente igual.

Intuitivamente, esperamos que agregar más integración reduzca el ancho de la distribución de ruido resultante. Sin embargo, encontramos que la desviación estándar de la distribución deXk crece comoN. Esto se debe solo a nuestra elección de la normalización de la transformada discreta de Fourier. Si en cambio lo hubiéramos normalizado así

Xk=1Nn=0N1xnei2πnk/N
entonces hubiéramos encontrado
PXk=Gσ/2N
lo que concuerda con la intuición de que la distribución del ruido se reduce a medida que agregamos más datos. Con esta normalización, una señal coherente se demodularía a un fasor de amplitud fija, por lo que recuperamos la relación habitual de que la relación de la señal a las amplitudes de ruido se escala comoN.
DanielSank
fuente
Todo esto está bien, pero cuando se trata de múltiples variables aleatorias, y especialmente de las variables aleatorias gaussianas, las covarianzas son de cierta importancia, ya que es la cuestión de cuáles de las variables aleatorias son independientes . ¿Podría abordar este problema en su respuesta? (Las variables aleatorias marginalmente gaussianas no necesitan ser conjuntamente gaussianas también; son su2Nvariables aleatorias conjuntamente gaussianas? son independientes?
Dilip Sarwate
1
@DilipSarwate esta es una buena pregunta. Lamentablemente no sé la respuesta (todavía). Estoy pasando por lo que podríamos llamar "autoestudio" del procesamiento de señales estocásticas y aún no he entendido por qué los valores de los procesos físicos en diferentes momentos con frecuencia se modelan conjuntamente como gaussianos (o incluso lo que eso realmente significa). Sospecho que tiene que ver con las ecuaciones diferenciales que rigen el proceso subyacente, pero nuevamente, todavía no lo sé. Si te interesa hacer un auto Q&A, sería realmente útil. De lo contrario, eventualmente haré las preguntas relevantes en este sitio.
DanielSank
@DilipSarwate Noté que usaste la suposición de un proceso gaussiano en tu respuesta a esta otra pregunta . Incluso notó que un "proceso gaussiano" no es lo mismo que decir que la distribución del proceso en untes gaussiano distribuido. Esto sugiere que los procesos gaussianos son comunes en la naturaleza / ingeniería. ¿Es esto cierto? Si es así, ¿puede darme una pista de dónde puedo aprender por qué?
DanielSank
1
@DanielSank Según el teorema del límite central, la combinación de una gran cantidad de variables aleatorias independientes siempre producirá una distribución normal, sin importar la distribución original de variables aleatorias individuales. Dado que la distribución normal está muy bien estudiada, a menudo se supone que el proceso observado se ajusta al teorema del límite central. Este no es siempre el caso (como los fotones en un CCD, por ejemplo), pero tiende a ser una aproximación segura para muchos problemas de física macroscópica.
PhilMacKay
1
@ anishtain4 Aquí hay una sola línea (tiempo!) de Python que simula thr proceso: import numpy as np; np.std(np.real(np.sum(np.random.normal(0, 1, (10000, 10000)) * np.exp(1.0j * 2 * np.pi * np.linspace(0, 1, 10000) * 50), axis=1))). Cuando hago esto, obtengo la salida 70, que es igual a10,000/2como debería ser. Quizás pueda comparar su simulación con esa línea.
DanielSank
2

Me gustaría dar otra opinión sobre la respuesta de @ DanielSank. Primero suponemos quevnCN(0,σ2) y es iid Su discreta transformada de Fourier es entonces:

Vk=1Nn=0N1vnej2πnNk
.

Queremos calcular la distribución de Vk Para empezar, notamos que desde vnes ruido gaussiano blanco, es simétrico circularmente, por lo que las partes real e imaginaria de su Transformada de Fourier se distribuirán de la misma manera. Por lo tanto, solo necesitamos calcular la distribución de la parte real y luego combinarla con la parte imaginaria.

Entonces nos separamos Vken sus partes reales e imaginarias. Tenemos:

Vk=1Nn=0N1vnej2πnNk
Vk=1Nn=0N1(R{vn}+jI{vn})(cos(2πnNk)+jsin(2πnNk))
Vk=R{Vk}1+R{Vk}2+jI{Vk}1+jI{Vk}2
Vk=R{Vk}+jI{Vk}

Dónde:

R{Vk}=R{Vk}1+R{Vk}2
I{Vk}=I{Vk}1+I{Vk}2

Y:

R{Vk}1=1Nn=0N1R{vn}cos(2πnNk)

R{Vk}2=1Nn=0N1I{vn}sin(2πnNk)

I{Vk}1=1Nn=0N1R{vn}sin(2πnNk)

I{Vk}2=1Nn=0N1I{vn}cos(2πnNk)

Now we work on deriving the distribution of R{Vk}1 and R{Vk}2. As in @DanielSank's answer, we define:

xn,k=1Ncos(2πnNk)R{vn}=1Ncn,kR{vn}

Thus we can write:

R{Vk}1=n=0N1xn,k

This allows us the easily apply the following facts about linear combinations of Gaussian random variables. Namely, we know that:

  1. When xCN(0,σ2) then R{x}N(0,12σ2)
  2. When xN(μ,σ2) then cxN(cμ,c2σ2)

Together, these imply that xn,kN(0,cn,k22N2σ2). Now we work on the sum. We know that:

  1. When xnN(μn,σn2) then y=n=0N1xnN(n=0N1μn,n=0N1σn2)
  2. n=0N1cn,k2=N2

These imply that:

R{Vk}1N(0,n=0N1cn,k22N2σ2)=N(0,N22N2σ2=N(0,σ24N)

So we have shown that:

R{Vk}1N(0,σ24N)

Now we apply the same argument to R{Vk}2. Abusing our notation, we rewrite:

xn,k=1Nsin(2πnNk)I{vn}=1Nsn,kI{vn}

Repeating the same argument, and noting that the Gaussian is a symmetric distribution (so we can ignore the sign difference), gives us:

R{Vk}2N(0,σ24N)

Since n=0N1sn,k2=N2 as well. So therefore since R{Vk}=R{Vk}1+R{Vk}2, we get:

R{Vk}N(0,σ24N+σ24N)=N(0,σ22N)

So we have shown that:

R{Vk}N(0,σ22N)

By circular symmetry, we also know then that:

I{Vk}N(0,σ22N)

So since Vk=R{Vk}+jI{Vk}, we finally arrive at:

VkCN(0,σ2N)

Therefore taking the DFT divides the variance by the length of the DFT window -- assuming the window is rectangular of course -- which is the same result as in @DanielSank's answer.

The Dude
fuente
Why Sum of C(n,k)^2=N/2?
Hãi Ngô Thanh