Técnicas avanzadas para determinar los límites inferiores de la complejidad.

23

Es posible que algunos de ustedes hayan estado siguiendo esta pregunta , que se cerró debido a que no tenía nivel de investigación. Entonces, estoy extrayendo la parte de la pregunta que está a nivel de investigación.

Más allá de las técnicas "más simples", como reducir a la clasificación o un problema completo EXPTIME, ¿qué técnicas se han utilizado para demostrar límites inferiores para la complejidad temporal de un problema?

En particular:

  • ¿Cuáles son las técnicas "de vanguardia" que se han desarrollado en la última década?
  • ¿Se pueden aplicar técnicas de álgebra abstracta, teoría de categorías u otras ramas de las matemáticas típicamente "puras"? (Por ejemplo, a menudo escucho mencionar la "estructura algebraica" de la clasificación, sin ninguna explicación real de lo que esto significa).
  • ¿Cuáles son los resultados significativos pero menos conocidos para la complejidad de límite inferior?
jmite
fuente
2
¿Está interesado en límites inferiores para problemas de cálculo de funciones o límites inferiores para cualquier cosa, incluida la informática distribuida, estructuras de datos, etc.?
Kaveh
1
Estoy principalmente interesado en la computación de funciones. Estoy seguro de que una vez que vayas en paralelo, es una caldera de peces completamente diferente.
jmite
2
Distribuido no es lo mismo que paralelo. :)
Kaveh
1
Verdad verdad. Quiero decir, no es lo que tenía en mente, pero no es que esté en contra de las respuestas para el cálculo distribuido.
jmite 22/0713
1
Claro, solo pregunté porque hay resultados de límite inferior en computación distribuida que usan matemáticas bastante avanzadas.
Kaveh

Respuestas:

17

Límites inferiores para circuitos algebraicos

En la configuración de los circuitos algebraicos, donde un límite inferior en el tamaño del circuito es análogo a un límite inferior en el tiempo, se conocen muchos resultados, pero solo hay unas pocas técnicas centrales en los resultados más modernos. Sé que solicitó límites inferiores de tiempo, pero creo que en muchos casos la esperanza es que los límites inferiores algebraicos algún día conduzcan a límites inferiores de la máquina booleana / de Turing. Estos resultados a menudo usan técnicas más profundas de "matemática pura" como lo expresas.

I. El grado obligado.

Strassen demostró que el logaritmo del grado de una cierta variedad algebraica asociada a una (conjunto de) funciones es un límite inferior en el tamaño del circuito algebraico de calcular esas funciones.

II Componentes conectados (o más generalmente la dimensión de cualquier grupo de homología superior).

Ben-Or demostró que el tamaño de un árbol de decisión algebraico real que decide pertenecer a un conjunto (semi-algebraico) es al menos donde C es el número de componentes conectados de ese conjunto. Ben-Or usó esto para demostrar un límite inferior Ω ( n log n ) en la clasificación (bueno, la distinción de elementos, pero la distinción de elementos se reduce a la clasificación) en el modelo de árbol de decisión algebraico real. Yao extendió esto de los componentes conectados a la suma de los números de Betti y demostró límites inferiores óptimos para otros problemas (como k -equals)). En otro documento, Yao extendió esto a los árboles de decisión algebraicos sobre los enteros.logCCΩ(nlogn)k

III. Derivadas parciales.

Este ha sido el caballo de batalla de muchos de los límites inferiores del circuito algebraico moderno. Creo que las derivadas parciales se usaron por primera vez para demostrar un límite inferior por Baur-Strassen, donde demostraron que calcular todos los primeros parciales de se puede hacer en tamaño 5 s, donde s es el tamaño necesario para calcular f . Combinado con el límite de grado de Strassen, esto le dio a Ω ( n log n ) límites inferiores en varias funciones, que siguen siendo los límites inferiores más fuertes en el tamaño de los circuitos aritméticos sin restricciones para una función explícita.f5ssfΩ(nlogn)

El uso más reciente de derivadas parciales parece provenir de un artículo de Nisan en el que demostró límites inferiores en circuitos no conmutativos al considerar la dimensión del espacio de todas las derivadas parciales. Esto se usó para probar los límites inferiores en tipos restringidos de circuitos de profundidad 3 por Nisan-Wigderson, y Raz utilizó ideas similares para probar límites inferiores en el tamaño de fórmula multilineal (y modelos relacionados por Raz y colaboradores). Los últimos límites inferiores de profundidad 4 y profundidad 3 de Gupta, Kayal, Kamath y Saptharishi utilizan una generalización de esta idea, para contar la dimensión del espacio de "derivadas parciales desplazadas", donde puede tomar derivadas parciales y luego multiplicar por cualquier monomio de un grado dado. ) puede "simplemente" ser una cuestión de comprender mejor el ideal generado por los menores permanentes (ver la conjetura al final de su artículo).VPVNP

IV. Definición de ecuaciones para variedades.

La idea aquí es asociar a "funciones fáciles" una cierta variedad algebraica, encontrar ecuaciones que desaparezcan en esta variedad y mostrar que estas ecuaciones no desaparecen en su "función difícil". (Por lo tanto, demuestra que su función difícil no está en la variedad de funciones fáciles, por lo que es realmente difícil). Especialmente útil en los límites inferiores de la multiplicación de matrices. Vea Landsberg - Ottaviani en arXiv para obtener lo último y referencias a límites inferiores anteriores.

(De hecho, I, II y III anteriores pueden verse como casos especiales de encontrar ecuaciones definitorias para ciertas variedades, aunque las pruebas que usan I, II, III nunca se expresan de esa manera, ya que en realidad no hubo Necesitar.)

V. Teoría de la representación, esp. como en la teoría de la complejidad geométrica.

En realidad, también utilizado por Landsberg - Ottaviani para encontrar algunas ecuaciones para una cierta variedad. También utilizado por Burgisser-Ikenmeyer para obtener una prueba teórica de representación "puramente" de un límite inferior ligeramente más débil en la multiplicación de matrices. Conjeturado por Mulmuley y Sohoni (cf. "Geometric Complexity Theory I & II") como útil para resolver vs V N P y finalmente N P vs. P / p o l y .VPVNPNPP/poly

Joshua Grochow
fuente
1
¿Podrías elaborar un poco más? V
T ....
1
@JAS: ¿Qué tal esto? cstheory.stackexchange.com/a/17629/129
Joshua Grochow
12

Kaveh ha sugerido suavemente en su respuesta que debería decir algo. No tengo mucho más para contribuir a esta lista de respuestas agradablemente completa. Puedo agregar algunas palabras genéricas sobre cómo los límites inferiores de "complejidad estructural" han evolucionado en los últimos diez años más o menos. (Utilizo el nombre "complejidad estructural" simplemente para distinguirlo de algebraico, complejidad de comunicación, etc.)

Los enfoques actuales todavía se basan en gran medida en la diagonalización y, en particular, en el siguiente paradigma básico: Comience suponiendo lo contrario del límite inferior. Esto le da un buen algoritmo para algún problema. Intente utilizar ese algoritmo para contradecir algún teorema de jerarquía basado en la diagonalización, como la jerarquía de tiempo o la jerarquía espacial. Como los argumentos de diagonalización por sí solos no son suficientes para probar nuevos límites inferiores, se agregan otros ingredientes a la mezcla para obtener la receta contradictoria.

Debo decir que también se puede decir que muchos argumentos de los años 70 y 80 siguen el patrón anterior; La principal diferencia hoy en día son los "otros ingredientes": hay muchos ingredientes para elegir, y las formas en que los ingredientes pueden aplicarse parecen estar limitadas solo por su propia creatividad. A veces, cuando no sabes cómo mezclar ingredientes particulares para obtener una receta mejor, pero entiendes muy bien cómo se pueden mezclar, es útil codificar un programa de computadora que te sugiera nuevas recetas.

NEXPACC

Ryan Williams
fuente
10

Ω(nlogn)El límite inferior para la clasificación solo funciona para algoritmos de clasificación basados ​​en la comparación, sin esta restricción y en modelos más generales de cómputo podría ser posible resolver la clasificación más rápido, incluso en tiempo lineal. (Ver el comentario de Josh a continuación).

Aquí hay algunos métodos directos básicos para probar los límites inferiores en la teoría de la complejidad computacional para los modelos más generales de computación (máquinas y circuitos de Turing).

I. Contando:

Idea: Mostramos que hay más funciones que algoritmos.

Ej: Hay funciones que requieren circuitos exponencialmente grandes.

El problema con este método es que es un argumento existencial y no proporciona ninguna función explícita ni ningún límite superior sobre la complejidad del problema que se ha demostrado que es difícil.

II Combinatorio / Algebraico:

Idea: Analizamos los circuitos y mostramos que tienen una propiedad particular, por ejemplo, las funciones calculadas por ellos pueden ser aproximadas por alguna clase agradable de objeto matemático, mientras que la función objetivo no tiene esa propiedad.

AC0AC0[p]

El problema con este método es que en la práctica solo ha funcionado para clases pequeñas y relativamente fáciles de analizar. También existe la barrera de pruebas naturales de Razborov-Rudich, que de alguna manera formaliza por qué las propiedades simples por sí mismas es poco probable que sean suficientes para probar los límites inferiores del circuito más general.

El artículo de Razborov " Sobre el método de aproximación " argumenta que el método de aproximación está completo para probar límites inferiores en cierto sentido.

III. Diagonalización

Idea. Diagonalizamos contra las funciones en la clase más pequeña. La idea se remonta a Gödel (e incluso a Cantor).

Ex. Teoremas de la jerarquía del tiempo , Teorema de la jerarquía del espacio , etc.

PPSpacePPSpace

También tenemos la barrera de relativización (que se remonta a Baker, Gill y Solovay) y la barrera de algebraización (de Aaronson y Wigderson) que establecen que tipos particulares de argumentos de diagonalización se transferirán a otros entornos donde el resultado es demostrablemente falso.

Tenga en cuenta que estas barreras no se aplican a argumentos de diagonalización más generales. De hecho, según el artículo de Dexter Kozen " Indexación de clases subrecursivas ", la diagonalización está completa para probar los límites inferiores.

Como probablemente haya notado, existe una fuerte relación entre encontrar buenos simuladores universales para una clase de complejidad y separar esa clase de complejidad de las clases más grandes (para una declaración formal, consulte el documento de Kozen).

Trabajos recientes

Para avances recientes, consulte los documentos recientes de Ryan Williams . No los discuto en esta respuesta, ya que espero que el propio Ryan escriba una respuesta.

Kaveh
fuente
2
nlognO(n)
1
Cada límite inferior funciona solo en un modelo particular de cómputo, no solo en el límite inferior de clasificación. Las máquinas de Turing y los circuitos booleanos también son modelos de cálculo.
Jeff el
@ Jɛ ff E, creo que eso está implícito en la primera oración de mi respuesta, pero lo aclararé.
Kaveh
2
Creo que este punto debería ser explícito. Con demasiada frecuencia se ignora.
Jeffε
9

Árboles de decisión algebraicos

Esta no es una técnica reciente, pero sí bastante poderosa para ciertos problemas.

nd

  • vqv(x1,,xn)dxixjij

  • 10+1

  • {1,2,,n}

xRn

Ω(nd)

R()RnR()Rnt=depth()dd(dt)O(n)

WRndtW3t(dt)O(n)t=Ω(log#Wnlogd)

nWn!nΩ(nlogn)

Ω(nlogn)

R()(dt)O(n)

nO(n)nlogn

Ω(n2)O(n4logn)2O(n)Rnn4lognkkkkO(nk/2)O(n4logn)consultar polinomios; Este tiempo de construcción es gratuito en el modelo de límite inferior.

¡Hurra por los resultados doblemente negativos!

Jeffε
fuente
7

Manindra Agrawal tiene un bonito artículo "Probar límites más bajos a través de generadores psuedorandom". Esto podría considerarse un "caballo oscuro" en la carrera para demostrar límites inferiores, pero el documento es interesante.

William Hird
fuente
44
¿Puedes dar más detalles para que tu respuesta sea autónoma?
Jeff el
55
@JeffE: No soñaría con tratar de escribir un resumen de la cápsula en un documento escrito por un ganador del Premio Godel, pero trataré de hacerlo mejor. Enviaré un correo electrónico al Sr. Agrawal y veré si le gustaría comentar aquí, puede tener nuevas ideas sobre por qué cree que los PRG pueden / no pueden usarse para probar límites más bajos.
William Hird
Los generadores de psuedorandom basados ​​en registros de desplazamiento de retroalimentación lineal han estudiado bien las propiedades algebraicas. Podría ser posible utilizar la teoría de la complejidad geométrica para mostrar que algún generador es impredecible al siguiente bit y, según el Sr. Agrawal, un generador psuedorandom tan fuerte le dará un límite inferior.
William Hird
1

Esta es una encuesta de 32p que acaba de aparecer sobre el tema y se centra en el ángulo de los límites inferiores del circuito (hay una fuerte superposición en el contenido con otras respuestas aquí).

Se han utilizado diferentes técnicas para probar varios teoremas de transferencia de la forma "algoritmos no triviales para un circuito de clase C con límite inferior de circuito de rendimiento contra C". En esta encuesta revisamos muchos de estos resultados. Discutimos cómo se pueden obtener los límites inferiores del circuito a partir de algoritmos de desrandomización, compresión, aprendizaje y satisfacción. También cubrimos la conexión entre los límites inferiores del circuito y las propiedades útiles, una noción que resulta ser fundamental en el contexto de estos teoremas de transferencia. En el camino, obtenemos algunos resultados nuevos, simplificamos varias pruebas y mostramos conexiones que involucran diferentes marcos. Esperamos que nuestra presentación sirva como una introducción autónoma para aquellos interesados ​​en realizar investigaciones en esta área.

vzn
fuente
referencia / encuesta algo similar: complicidad irónica: algoritmos de satisfacción y límites inferiores por Santhanam, BEATCS # 106
vzn