¿Qué tanto problema es el ruido blanco para el uso en el mundo real de un DNN?

Leí que las redes neuronales profundas pueden ser engañadas con relativa facilidad ( enlace ) para dar una alta confianza en el reconocimiento de imágenes sintéticas / artificiales que están completamente (o al menos en su mayoría) fuera del tema de la confianza.

Personalmente, realmente no veo un gran problema con el hecho de que DNN otorgue una gran confianza a esas imágenes sintéticas / artificiales, pero creo que darle una gran confianza al ruido blanco ( enlace ) puede ser un problema, ya que este es un fenómeno verdaderamente natural que la cámara puede ver en el mundo real.

¿Qué tanto problema es el ruido blanco para el uso en el mundo real de un DNN? ¿Se pueden detectar tales falsos positivos a partir del ruido simple de alguna manera?

El ruido blanco que engaña a los DNN no es realmente ruido blanco. Se ha modificado de la misma manera que se han alterado las imágenes sintéticas mal clasificadas. Debe cambiar muchos píxeles de entrada exactamente de tal manera que estos pequeños cambios no sean perceptibles, sino que se propaguen a través de la red y se sumen a una clasificación errónea. Esto no va a suceder por casualidad.