¿Qué quiso decir Turing cuando dijo que "las máquinas no pueden dar lugar a sorpresas" se debe a una falacia?

Encontré a continuación la declaración de Alan M. Turing aquí :

"La opinión de que las máquinas no pueden dar lugar a sorpresas se debe, creo, a una falacia a la que los filósofos y matemáticos están particularmente sujetos. Esta es la suposición de que tan pronto como se presenta un hecho a la mente, todas las consecuencias de ese hecho surgen en la mente simultáneamente con ella. Es una suposición muy útil en muchas circunstancias, pero se olvida muy fácilmente que es falsa ".

No soy un hablante nativo de inglés. ¿Alguien podría explicarlo en inglés simple?

Los matemáticos y los filósofos a menudo asumen que las máquinas (y aquí, probablemente quiere decir "computadoras") no pueden sorprendernos. Esto se debe a que suponen que una vez que aprendemos algún hecho, entendemos inmediatamente cada consecuencia de este hecho. Esto suele ser una suposición útil, pero es fácil olvidar que es falso.

Él dice que los sistemas con descripciones simples y finitas (por ejemplo, máquinas de Turing) pueden exhibir un comportamiento muy complicado y que esto sorprende a algunas personas. Podemos entender fácilmente el concepto de máquinas de Turing, pero luego nos damos cuenta de que tienen consecuencias complicadas, como la indecidibilidad del problema de detención, etc. El término técnico aquí es que "el conocimiento no se cierra bajo deducción". Es decir, podemos saber algún hecho  , pero no sabemos  , a pesar de que implica  .$A$$B$$A$$B$

Honestamente, sin embargo, no estoy seguro de que el argumento de Turing sea muy bueno. Quizás tenga el beneficio de escribir casi 70 años después de Turing, y entiendo que el matemático típico sabe mucho más sobre lógica matemática que en la época de Turing. Pero me parece que los matemáticos están bastante familiarizados con la idea de sistemas simples que tienen un comportamiento complejo. Por ejemplo, cada matemático conoce la definición de un grupo , que consta de solo cuatro axiomas simples. Pero nadie, hoy o entonces, pensaría: "Ajá. Conozco los cuatro axiomas, por lo tanto, conozco todos los hechos sobre los grupos". Del mismo modo, los axiomas de Peano dan una descripción muy breve de los números naturales, pero nadie que los lea piensa "Bien, ahora conozco todos los teoremas sobre los números naturales. Vamos"

Solo un ejemplo: dadas las reglas del ajedrez, cualquiera debería pensar de inmediato la mejor estrategia para jugar al ajedrez.

Por supuesto que no funciona. Incluso las personas no son iguales, y las computadoras pueden superarnos debido a sus mejores habilidades para sacar conclusiones de los hechos.

Esta es la idea de surgimiento , que es cuando el comportamiento complejo resulta de la interacción de reglas relativamente simples. Hay muchos ejemplos de esto en la naturaleza, como señala ese enlace. Colonias de insectos, bandadas de pájaros, bancos de peces y, por supuesto, conciencia. En una bandada de pájaros o banco de peces, cada individuo en el enjambre solo toma decisiones basadas en los demás que los rodean de inmediato, pero cuando reúne a un grupo de esas personas siguiendo todas esas reglas, comienza a ver un comportamiento más coordinado que esperarías sin un plan de nivel superior. Si vas a Youtube y ves demostraciones de enjambres de robots, ves que todos evitan golpearse y trabajan al unísono. Sorprendentemente, esto no tiene que lograrse haciendo que una sola computadora central coordine el comportamiento de cada robot individual, sino que se puede hacer usando una robótica enjambre donde, como los insectos, las aves o los peces, cada robot toma decisiones locales que conducen a la coordinación emergente.

Otra demostración interesante de comportamiento emergente es el Juego de la vida de Conway . Las reglas para el juego son extremadamente simples, pero pueden conducir a resultados muy fascinantes.

Un argumento tentador contra la capacidad de las computadoras para obtener inteligencia humana es decir que dado que solo pueden hacer precisamente lo que están programados para hacer, solo deben exhibir la inteligencia con la que los programamos. Si esto fuera cierto, entonces tampoco esperaríamos que el comportamiento relativamente simple de las neuronas genere inteligencia humana. Sin embargo, hasta donde podemos ver, este ES el caso y la conciencia es una propiedad emergente del procesamiento neuronal. Estoy seguro de que a Turing le hubiera encantado ver qué es posible hoy en día con el uso de redes neuronales artificiales

La gente podría suponer que si escribo un programa, y ​​entiendo el algoritmo completamente, y no hay errores, entonces debería saber cuál sería la salida de ese programa, y ​​eso no debería sorprenderme.

Turing dice (y estoy de acuerdo) que este no es el caso: el resultado puede ser sorprendente. La solución a un problema de vendedor ambulante puede ser sorprendente. La mejor manera de construir un sumador completo puede ser sorprendente. El mejor movimiento en un juego de ajedrez puede ser sorprendente.