Error en el uso de notación asintótica

10

Estoy tratando de entender qué está mal con la siguiente prueba de la siguiente recurrencia

T (n) = 2 T (⌊ \frac{n}{2} ⌋) + n

$T(n) = 2\,T\!\left(\left\lfloor\frac{n}{2}\right\rfloor\right)+n$

T (n) \leq 2 (c ⌊ \frac{n}{2} ⌋) + n \leq c n + n = n (c + 1) = O (n)

$T(n) \leq 2\left(c\left\lfloor\frac{n}{2}\right\rfloor\right)+n \leq cn+n = n(c+1) =O(n)$

La documentación dice que está mal debido a la hipótesis inductiva de que

T (n) \leq c n

$T(n) \leq cn$ ¿Qué me estoy perdiendo?

algorithms landau-notation asymptotics recurrence-relation Erb
fuente

2

Las recurrencias de esta forma también se pueden resolver utilizando el teorema del maestro .

Juho

2

@Ran: No creo que el teorema maestro sea una etiqueta apropiada para esta pregunta. La pregunta no es cómo resolverlo, sino señalar la falacia en un argumento particular. Además, el teorema maestro es probablemente demasiado específico y probablemente no merece tener su propia etiqueta. En general, deberíamos etiquetar según la pregunta, no las respuestas posibles. Por ejemplo, ¿etiquetarías este akra-bazzi?

Aryabhata

"lo que está mal con la siguiente prueba" - No veo una prueba. A menudo es útil escribir una prueba completa (es decir, hacer que la inducción sea explícita) para detectar errores.

Raphael

Una pregunta más general relacionada es Resolver o aproximar relaciones de recurrencia para secuencias de números .

Juho

12

Digamos que el objetivo final es probar . Comienzas con la hipótesis de inducción: $T(n) = \mathcal{O}(n)$

para todo . $T(i) \leq ci$ $i < n$

Y para completar la prueba, debe demostrar que también. $T(n) \leq cn$

Sin embargo, lo que puede deducir es , que no es útil para completar la prueba; necesitas una constante para (casi) todas las . Por lo tanto, no podemos concluir nada y no está probado. $T(n) \leq (c+1)n$ $c$ $n$ $T(n) = \mathcal{O}(n)$

Tenga en cuenta que está confundido entre el resultado y el proceso de prueba. Y un punto más, es en realidad en este caso, por lo que puede considerar una hipótesis de inducción adecuada para poder probarla. $T(n)$ $\Theta(n \log n)$

almohadilla
fuente

si reemplazamos c '= c + 1, ¿hará algún cambio?

Erb

@erb: No, no lo hará. Tienes que probar para una constante elegida. Si reemplaza

, eventualmente tiene

(o

), entonces el resultado es el mismo.

c^{'} = c + 1

$c'=c+1$

T (n) \leq (c^{'} + 1) n

$T(n) \leq (c'+1)n$

T (n) \leq (c + 2) n

$T(n) \leq (c+2)n$

pad

8

Has omitido algunos pasos. Parece que está intentando demostrar por inducción que , y su prueba es: $T(n) = O(n)$

Suponga que para . Esto significa $T(k) = O(k)$ $k<n$ para algunos . Entonces $T(k) \le c \, k$ $c$ , entonces . $T(n) = 2 T(\lfloor n/2\rfloor) + n \le 2 c \lfloor n/2\rfloor + n\le (c+1) \,n$ $T(n) = O(n)$

Esta prueba sale mal desde el principio: " para " no tiene sentido. Big oh es una noción asintótica: significa que hay una constante y un umbral N tal que $T(k) = O(k)$ $k \lt n$ $T(k) = O(k)$ $c$ . Y de nuevo al final, no puede concluir que " ", porque eso dice algo sobre la función en su conjunto y solo ha demostrado algo sobre el valor particular . $\forall k \ge N, T(k) \le c \, k$ $T(n)=O(n)$ $T$ $T(n)$

Debe ser explícito sobre lo que significa Entonces tal vez tu prueba sea: $O$

Suponga que para todo . Entonces $T(k) \le c \, k$ $k < n$ . $T(n) = 2 T(\lfloor n/2\rfloor) + n \le 2 c \lfloor n/2\rfloor + n\le (c+1) \,n$

Esto no prueba un paso inductivo: comenzaste desde , y usted demostró que para , $T(k) \le c \, k$ $k=n$ . Este es un límite más débil. Mira lo que esto significa: $T(k) \le (c+1) \, k$ medios que es un límite para la tasa de crecimiento de . Pero tienes una tasa que crece cuando crece. ¡Eso no es un crecimiento lineal! $T(k) \le c \, k$ $c$ $T$ $c$ $k$

Si observa detenidamente, notará que la tasa aumenta en cada vez que duplica. Entonces, informalmente, si entonces ; en otras palabras, . $c$ $1$ $k$ $m=2^p k$ $c_m = c_k + p$ $c_k = c_0 \log_{2} k$

Esto puede hacerse preciso. Demuestre por inducción que para , . $k \ge 1$ $T(k) \le c \log_2(k)$

La relación de recurrencia es típica para los algoritmos de divide y vencerás que dividen los datos en dos partes iguales en tiempo lineal. Dichos algoritmos operan en tiempo (no ). $\Theta(n\,\mathrm{log}(n))$ $O(n)$

Para ver cuál es el resultado esperado, puede verificar la relación de recurrencia con el teorema maestro . La división es y el trabajo extra realizado es ; entonces este es el segundo caso para el que el crecimiento es $2T(n/2)$ $n$ $\log_2(2) = 1$ . $\Theta(n\,\log(n))$

Gilles 'SO- deja de ser malvado'
fuente

7

Extiendo la respuesta ya dada, quizás solo explicando mi comentario con más detalle.

Como adivinar puede ser claramente difícil y tedioso, a veces existen mejores métodos. Uno de esos métodos es el Teorema Maestro . Nuestra recurrencia es ahora de la forma , donde y son constantes y una función. Tenga en cuenta que en nuestro caso puede interpretarse en el sentido de $T(n) = a T(n/b) + f(n)$ $a \geq 1$ $b > 1$ $f(n)$ $\lfloor n/2 \rfloor$ $n/2$ . Para ser técnicamente exactos, nuestra recurrencia podría no estar bien definida porque podría no ser un número entero. Sin embargo, esto está permitido ya que no afectará el comportamiento asintótico de la recurrencia. Por lo tanto, a menudo nos parece conveniente dejar caer pisos y techos. La prueba formal de esto es un poco tediosa, pero el lector interesado puede encontrarla, por ejemplo, en Cormen et al. libro . $n/2$

En nuestro caso, tenemos , , . Esto significa que tenemos . El segundo caso del teorema maestro se aplica ya que , y tenemos la solución $a = 2$ $b = 2$ $f(n) = \Theta(n)$ $n^{\log_b a} = n^{\log_2 2} = n$ $f(n) = \Theta (n)$ . $T(n) = \Theta (n \log n)$

Juho
fuente

¡Gracias! Cabe señalar que "dejar caer pisos y techos" corresponde a suponer que

cual se hace comúnmente. La observación básica es que para funciones no decrecientes, el crecimiento asintótico de subsecuencias es igual al crecimiento asintótico de toda la secuencia.

n = 2^{k}

$n=2^k$

Raphael

Error en el uso de notación asintótica

Respuestas: