¿Qué algoritmos aleatorios tienen una probabilidad de error exponencialmente pequeña?

Suponga que un algoritmo aleatorio usa bits aleatorios. La probabilidad de error más baja que uno puede esperar (no alcanza un algoritmo determinista con 0 error) es . ¿Qué algoritmos aleatorios logran una probabilidad de error mínima? $r$ $2^{-\Omega(r)}$

Un par de ejemplos que vienen a la mente son:

Algoritmos de muestreo, por ejemplo, donde se quiere estimar el tamaño de un conjunto para el cual se puede verificar la membresía. Si se muestre de manera uniforme al azar los elementos a verificar, el límite de Chernoff garantiza una probabilidad de error exponencialmente pequeña.
El algoritmo de Karger-Klein-Tarjan para calcular el árbol de expansión mínimo. El algoritmo selecciona cada arista con probabilidad 1/2, y encuentra recursivamente el MST en la muestra. Se puede usar Chernoff para argumentar que es exponencialmente improbable que haya 2n + 0.1m de los bordes que sean mejores que el árbol (es decir, preferiría llevarlos sobre uno de los bordes del árbol).

¿Puedes pensar en otros ejemplos?

Siguiendo la respuesta de Andras a continuación: De hecho, cada algoritmo de tiempo polinómico puede convertirse en un algoritmo de tiempo polinómico más lento con una probabilidad de error exponencialmente pequeña. Mi enfoque está en algoritmos que sean lo más eficientes posible. En particular, para los dos ejemplos que di hay algoritmos de tiempo polinomiales deterministas que resuelven los problemas. El interés en los algoritmos aleatorios se debe a su eficiencia.

randomized-algorithms Dana Moshkovitz
fuente

No es una respuesta completa, pero ha habido algo de trabajo en álgebra lineal numérica aleatoria. youtube.com/watch?v=VTroCeIqDVc

Baby Dragon

Quizás no se puede esperar , pero ciertamente se puede esperar (aún "no alcanzar un algoritmo determinista con error 0") que para todos los números reales

c

$c\hspace{-0.02 in}$ , Si

c < 1

$\: c<1 \:$ entonces hay un algoritmo

$\hspace{.34 in}$ cuya probabilidad de error es

2^{- c \cdot r}

$2^{-\hspace{.01 in}c\cdot r}\hspace{-0.03 in}$ .

$\:$ Creo que las pruebas de identidad polinómica son un problema.

$\hspace{.49 in}$

@RickyDemer No entiendo tu comentario. El algoritmo aleatorio habitual para PIT tiene un error que no es exponencial en la aleatoriedad. Entonces, ¿qué es lo que estás diciendo? ¿Estás diciendo que puede existir un algoritmo para cualquier problema de BPP?

Sasho Nikolov

Ahora me doy cuenta de que en realidad no veo ninguna forma de demostrar que PIT está en la clase que describí.

$\:$ Por otro lado, dejar que

sea superpolinomial en

(es decir, dejar que la longitud (S) sea superlineal en longitud (d)) sería suficiente para el lema de Schwartz-Zippel

S

$S$

d

$d$

$\:$ (continúa ...)

$\;\;\;\;$

Muchas construcciones de métodos probabilísticos tienen ese comportamiento, ¿no? Por ejemplo, elegir un conjunto aleatorio de cadenas binarias y observar su par más cercano: la probabilidad de que haya dos cadenas en una distancia menor que

es muy pequeña. -------------------------------------------------- ----------------------- En el espíritu de la respuesta BPP a continuación: Dado un expansor de grado constante, con n vértices y

vértices marcados, el la probabilidad de que una caminata aleatoria de longitud

omita un vértice marcado es

, si

n / 4

$n/4$

n / 2

$n/2$

O (t)

$O( t )$

2^{- Ω (t)}

$2^{-\Omega(t)}$

t = Ω (\log n)

$t = \Omega( \log n)$

Sariel Har-Peled

Respuestas:

Impagliazzo y Zuckerman demostraron (FOCS'89, ver aquí ) que si un algoritmo BPP usa bits aleatorios para lograr una probabilidad de corrección de al menos 2/3, entonces, aplicando caminatas aleatorias en gráficos expansores, esto puede mejorarse a una probabilidad de corrección de , utilizando bits aleatorios. ( Nota: si bien los autores usan la constante específica 2/3 en el resumen, puede reemplazarse por cualquier otra constante mayor que 1/2). $r$ $1-2^{-k}$ $O(r+k)$

Si tomamos , esto significa que cualquier algoritmo de BPP que logra una probabilidad de error constante , utilizando bits aleatorios, puede ser (no trivialmente) mejorado para tener probabilidad de error de . Por lo tanto, (a menos que haya entendido mal algo), la probabilidad de error de es alcanzable para cada problema en BPP. $k=r$ $< 1/2$ $r$ $2^{-\Omega(r)}$ $\leq 2^{-\Omega(r)}$

Andras Farago
fuente

El problema con tales técnicas de amplificación es que ralentizan el algoritmo. El nuevo algoritmo solo puede usar bits aleatorios O (r), pero su tiempo de ejecución es r veces (tiempo de ejecución original). Si r es, por ejemplo, al menos lineal en el tamaño de entrada n (que generalmente es), simplemente desaceleró el algoritmo en un factor n. Eso no es algo por lo que la mayoría de los algoritmos estarían contentos ...

Dana Moshkovitz

No estoy seguro de que esto sea lo que estás buscando, pero está relacionado:

Supongamos que quiero encontrar un número primo aleatorio de bits. El algoritmo habitual es elegir un entero aleatorio (impar) y ejecutar la prueba de primalidad de Miller-Rabin para rondas en él y repetir hasta que se encuentre un primo probable. ¿Cuál es la probabilidad de que este procedimiento devuelva un número compuesto? Llame a esta probabilidad . $k$ $k$ $t$ $p_{k,t}$

El análisis estándar de la prueba de primalidad de Miller-Rabin muestra que las rondas dan una probabilidad de falla de como máximo . Esto, junto con el teorema del número primo, implica $t$ $4^{-t}$

{pag}_{k, t} \leq O (k \cdot {4 4}^{- t}) .

$p_{k,t} \leq O(k\cdot 4^{-t}).$

$t=1$

{pag}_{k, 1} \leq 2^{- (1 - o (1)) \frac{k En En k}{En k}} \leq 2^{- \tilde{Ω} (k)} .

$p_{k,1} \leq 2^{-(1-o(1))\frac{k \ln\ln k}{\ln k}} \leq 2^{-\tilde\Omega(k)}.$

Ver Erdös y Pomerance (1986) , Kim y Pomerance (1989) , y Dåmgard, Landrock y Pomerance (1993) para más detalles.

$O(k^2)$ $O(k)$

Thomas apoya a Mónica
fuente