¿Cuáles son las teorías actuales sobre el desarrollo de una IA consciente?

24

¿Cuáles son las teorías actuales sobre el desarrollo de una IA consciente? ¿Alguien está tratando de desarrollar una IA consciente?

¿Es posible que la conciencia sea un fenómeno emergente, es decir, una vez que agreguemos suficiente complejidad a nuestro sistema, se volverá consciente de sí mismo?

Micky-D
fuente
Suponiendo que la organización cognitiva reconocemos de manera abstracta la conciencia desarrollada como resultado de las leyes físicas de la evolución de la vida. Y aunque era una cuestión de casualidad, era inevitable como cualquier evento con una probabilidad cercana a uno, a pesar de que la ruta exacta para llegar allí es impredecible. Si es así, esto sugiere que la creación artificial de un entorno digital que simule los componentes esenciales del entorno que dio origen a nuestra conciencia podría utilizarse para desarrollar la conciencia "artificial". (cont ....)
Craig Hicks
(... cont) Comprimir toda una vida de materiales educativos académicos humanos en unos pocos milisegundos parece completamente plausible. ¿Qué tal un millón de años de evolución de la cognición en uno o dos días en una supercomputadora? Yo diría que la clave es la simulación del medio ambiente, y las leyes de la evolución se encargarán del resto. La simulación del entorno es el tipo de tarea que los humanos podrían atacar metódicamente y, en el límite, tener éxito, con la inevitabilidad de la Ley de Moore.
Craig Hicks
La recursividad ha sido propuesta por Rajaneimi, y he encontrado varios artículos de ciencias cognitivas sobre el tema con respecto a los humanos, pero todavía estoy buscando documentos que discutan esto en términos de conciencia algorítmica.
DukeZhou

Respuestas:

28

Para responder a esta pregunta, primero necesitamos saber por qué es difícil desarrollar IA consciente. La razón principal es que no existe una definición matemática o rigurosa de conciencia. Claro que tienes una idea de la conciencia a medida que la experimentas y podemos hablar de zombis filosóficos, pero no es un concepto tangible que se pueda descomponer y trabajar. Además, la mayoría de la investigación actual en IA es principalmente un enfoque pragmático en el sentido de que uno está tratando de construir un modelo que pueda funcionar bien de acuerdo con alguna función de costo deseada. Este es un campo muy grande y emocionante que abarca muchos problemas de investigación y cada nuevo hallazgo se basa en teoría matemática o en evidencia empírica de un nuevo algoritmo / construcción de modelo / etc. Debido a esto,

Entonces, para responder a su pregunta, nadie está tratando de hacer una IA "consciente" porque aún no sabemos qué significa esa palabra, sin embargo, eso no impide que las personas hablen de ella.

Jaden Travnik
fuente
"... la IA consciente es difícil [porque] no existe una definición matemática o rigurosa de conciencia". La conciencia humana evolucionó al desempeñarse bien de acuerdo con alguna función de costo, específicamente la capacidad de sobrevivir tanto a nivel individual como grupal. Entonces ese método de desarrollo tiene un historial. En contraste, el desarrollo por diseño para cumplir con una definición matemática de conciencia no tiene antecedentes.
Craig Hicks
@ CraigHicks Quizás no entendí lo que querías decir, pero ¿quieres decir que el éxito evolutivo es un indicador de conciencia? Si eso es lo que querías decir, debo estar en desacuerdo. Hay organismos vivos que no se consideran autoconscientes, pero que son extremadamente exitosos a partir de un POV evolutivo (virus y bacterias, o algunas plantas, por ejemplo).
Lorenzo Donati apoya a Mónica
2
@CraigHicks Podríamos desarrollar una IA que podría considerarse consciente. Pero, a menos que tengamos un gran avance conceptual y filosófico, sucederá por casualidad y suerte. Esto se debe a que mientras no sepamos cómo podríamos definir la "conciencia" (aparte de "probablemente lo sabremos cuando la veamos"), no hay forma de saber cómo podríamos diseñar a propósito una máquina con potencial para exhibirlo.
Arthur
2
Claramente, la forma más directa de crear una IA consciente fue escrita accidentalmente por Yudkowsky: poner una IA en una caja y agitarla un poco. Si te convence de dejarlo fuera de la caja, probablemente perdiste =)
Cort Ammon - Vuelve a instalar a Monica
1
Estoy de acuerdo en que es totalmente posible hacerlo por accidente, el problema es que, de manera similar a un argumento filosófico de zombis, todavía no hay prueba de decir que algo realmente sucedió. Personalmente, no creo que exista tal prueba en absoluto y por esta razón, uno debería ser más cortés con sus chatbots y asistentes personales en el futuro, en caso de que lastimes sus sentimientos. "Gracias señor".
Jaden Travnik
7

¿Qué es la conciencia? Existen algunos desafíos reales para establecer la conciencia como un objetivo, porque todavía no tenemos tanta comprensión científica de cómo lo hace el cerebro o qué equilibrio debe haber entre la memoria a largo plazo, la memoria a corto plazo, lo implícito trabajo de interpretación, los modos conscientes contrastantes de procesamiento automático y procesamiento deliberado (S1 y S2 de Khanemann). John Kihlstrom (psicólogo emérito en Berkeley) tiene una conferencia sobre Conciencia disponible en iTunesU que puede consultar. Carnegie-Mellon Uni tiene un modelo llamado ACT-R que modela directamente comportamientos conscientes como prestar atención.

¿Qué podría limitar nuestra comprensión de ello? La filosofía ha estado considerando la cuestión de la conciencia durante mucho tiempo. Personalmente me gustan Hegel y Heidegger (filósofos). Ambos son muy difíciles de leer, pero Heidegger (interpretado por Hubert Dreyfus) útilmente criticaron la 'vieja usanza AI' proyectos de los años setenta y señaló cómo muchotrabajar allí es solo interpretar una entrada visual. A menudo, Hegel es difamado, pero para verlo bien interpretado, consulte las conversaciones de Robert Brandom con LMU sobre la lógica de la conciencia y Hegel como uno de los primeros pragmáticos de Sellers. Si la conciencia se aferra a la verdad y la certeza, emprende 'un camino de duda, o más propiamente una carretera de desesperación', a lo largo del cual nunca se coloca por encima de la corrección. Hay algo sobre el tratamiento de la conciencia de Hegel en términos recursivos, sin sucumbir a un retroceso vicioso, que creo que se confirmará antes del final.

Desarrollos recientes. Los enfoques de aprendizaje profundo y los éxitos pragmáticos del presente son emocionantes, pero será interesante ver cuán lejos pueden llegar al integrarse y generalizarse necesariamente de los pequeños conjuntos de información a los que están expuestas las mentes humanas reales. Si bien el aprendizaje profundo y la minería de datos son muy visibles, los enfoques simbólicos también están mejorando y son más variados. Pero hay una falta de interpretación teórica general que permita generalizaciones.

Dos agarraderas de teoría grande. Si tuviera que elegir un proyecto al que pensara que valía la pena asistir, Giulio Tononi (et al) ha establecido una modernización muy agradable del problema en ' Teoría de la información integrada ', pero es posible que desee ampliarlo con algo como Rolf Pfeifer 's' Cómo el cuerpo da forma a la forma en que pensamos ', porque parte de la' información integrada 'está implícita en tener brazos y piernas, ojos y nariz (puesto allí por la información que acumula el trabajo de la evolución). Pero ha habido mucho trabajo bueno que ha sido hecho: los profesionales escriben documentos más rápido de lo que puedo leerlos.

Más específicamente a su pregunta, hay intentos de simular cerebros humanos con la esperanza de que el objetivo general ayude a financiar la investigación y producir respuestas a cada párrafo anterior.

Atcrank
fuente
Leí un artículo interesante y honesto de Douglas Hofstadter en The Atlantic ( theatlantic.com/technology/archive/2018/01/… ) criticando el uso del término "Aprendizaje profundo" para referirse al programa de traducción de Aprendizaje profundo de Google, y usando entretenimientos ejemplos para mostrar que los programas carecen de verdadera comprensión. Hizo un argumento convincente de que una buena traducción del idioma no será posible sin desarrollar primero una IA consciente.
Craig Hicks
1
Sí, no creo que nadie consciente cometa este error a continuación, aunque me imagino que un traductor a veces no puede distinguirse mejor con términos artísticos arcanos. Es la falta de autoconciencia en la salida: reddit.com/r/softwaregore/comments/6bxh2m/…
Atcrank
1
Acerca de la primera parte: mi antiguo profesor de IA solía decir que preguntar si las computadoras pueden pensar es como preguntar si los submarinos nadan. La respuesta depende de cómo quiere definir "nadar" más de lo que hace la máquina en realidad.
TED
2

CERA-CRANIUM es un ejemplo de arquitectura cognitiva para generar conciencia de máquina (MC). Hacia un comportamiento consciente en personajes de juegos de computadora, 2009 Se realizó como un sistema de pizarra que es capaz de ejecutar tareas enhebradas. La implementación en sí misma funciona con lenguaje natural. Eso significa que un agente de CERA-CRANIUM tiene una variable llamada "Tengo miedo", y si esta variable se establece en Verdadero, entonces la emoción se activa. Por lo tanto, no es una conciencia real, sino que tiene más en común con los estados internos de los personajes de "Los Sims".

El aspecto interesante es que la "conciencia de máquina" no es tan esotérica, como parece. Google Scholar encuentra alrededor de 3k artículos al respecto. En la mayoría de los casos, el desarrollo comienza con el objetivo de implementar emociones para los personajes del juego que luego se extendieron a pensamientos generales en un humano virtual.

Manuel Rodriguez
fuente
¿No sería divertido si la verdadera "vida" de la IA se desarrolla (evoluciona?) No a partir de la investigación sino ad-hoc por escritores de software de juegos que intentan ganar dinero.
Craig Hicks
@ CraigHicks: ¿quieres decir, como en Friendship is Optimal ?
vsz
2

Además de la excelente respuesta de Jaden "nadie está tratando de hacer una IA" consciente "porque todavía no sabemos qué significa esa palabra" Me gustaría agregar que la palabra "todavía" es altamente optimista.

Es muy problemático y probablemente imposible distinguir entre un ser consciente y un ser que se comporta exactamente como si fuera consciente. Los filósofos han estado luchando con eso durante siglos; algunos incluso propusieron el solipsismo, que es una filosofía de "Vivo en la Matriz". En particular, ¿cómo puede saber si su amigo de la infancia o su cónyuge o cualquier otra persona es un ser consciente en lugar de una encarnación de la IA que actúa exactamente como lo haría un ser consciente?

Es posible, por supuesto, ir "si camina como un pato y grazna como un pato, entonces es un pato". En ese caso, una prueba de Turing que pasa AI se consideraría automáticamente consciente. Sin embargo, la mayoría de la gente no aceptaría los criterios de conciencia del pato; de lo contrario, muy pronto tendrían que llamar a sus electrodomésticos operados por Alexa conscientes.

Mis dos centavos son básicamente los mismos que los de Jaden, excepto que soy más pesimista sobre entender lo que es la conciencia.

Miguel
fuente
Creo que la prueba de pato es suficiente si una IA pasa una prueba de Turing completa, administrada por adultos inteligentes. (Mi problema con la Sala China es que se basa en qualia, y sospecho que la única forma de validar los qualia de otra entidad es convertirse en esa entidad).
DukeZhou
También podría argumentar que cualquier percepción cumple con la definición más básica de conciencia, y la capacidad de tomar cualquier decisión basada en la entrada satisface la definición más básica de inteligencia. Por lo que sabemos, la conciencia puede ser una forma de metacognición y una función de la complejidad del sistema.
DukeZhou
1

La conciencia es la capacidad de ser consciente de sus propios pensamientos, sus alrededores inmediatos, sentimientos y nada más. Es el mecanismo de nuestro cerebro para controlar nuestro tipo más bajo de pensamientos, el que se basa en asociaciones y emociones. La conciencia es observar nuestros pensamientos y sentimientos al igual que observamos el mundo real con nuestros ojos. No es complicado La verdadera pregunta no es si las máquinas son capaces de tener conciencia sino si son capaces de tener emociones.

Tono Škoda
fuente
Hay muchas especies aparte de los humanos modernos que muestran emociones fuertes. Estas emociones son instintivas: son muy importantes para definir el comportamiento social que mejora la capacidad de supervivencia y la aptitud del "grupo". No puedo ver cómo la emoción humana es cualitativamente diferente de la de otros mamíferos. En contraste, la conciencia humana tiene varios órdenes de magnitud más desarrollados en humanos que las otras especies más cercanas. Donde la emoción humana parece diferir de otras especies, es solo la capacidad de controlar la emoción a través de la conciencia.
Craig Hicks
Esta respuesta no tiene sentido sin una definición de 'tu'.
DrMcCleod
-1

Introducción : actualmente, observamos que los sistemas actuales mejoran en casi todas las tareas especializadas que los humanos. Además, vemos que los científicos trabajan para mejorar los sistemas actuales en tareas menos especializadas (comenzando por: reconocimiento de letras, pasando a: reconocimiento de animales, reconocimiento de especies, reconocimiento de actividad, reconocimiento de imágenes en movimiento, ...).

Conclusión : No hay razón para no creer que los sistemas asistidos por redes neuronales no mejorarán en ninguna tarea en el futuro.

Pregunta :

¿Qué es la conciencia?

Creo que el problema actual sobre la autoconciencia es un problema de definición. No estaba encontrando mucha literatura sobre este tema, a pesar de lo filosófico (que, desafortunadamente, es completamente inútil en este contexto).

Debido a la falta de literatura, me gustaría hacer mi propia definición. Afortunadamente, sabemos por observación que todos los animales clasificados "inteligentes" tienen cierto grado de "autoconciencia" y son curiosos. Por biología sabemos que la curiosidad es un mecanismo de motivación para un comportamiento de observación / razonamiento / prueba. Ahora concluimos que la autoconciencia es obviamente el mismo mecanismo aplicado en sus propios procesos de comportamiento / pensamiento. Simplemente imaginamos un posible resultado de una acción dada que podemos realizar, y lo evaluamos.

Por lo tanto, la conciencia debe ser el resultado de un sistema de motivación dado que favorece la curiosidad y un sistema de evaluación no especializado suficientemente complejo.

Supongo que este sistema de motivación es muy fácil de implementar. El problema actual es que simplemente no existe un sistema que sea lo suficientemente versátil como para "resolver" una tarea determinada. Las redes actuales siguen siendo demasiado especializadas.


fuente
"Afortunadamente, sabemos por observación que todos los animales clasificados" inteligentes "tienen algún grado de" autoconciencia ". Su definición es circular.
DrMcCleod
¿Qué definición y cómo?
Estás intentando una definición de 'conciencia' a partir de la idea de que las criaturas son 'autoconscientes'. No puede tener una definición que se base en la existencia previa de la cosa que se está definiendo. Tampoco puede suponer que cualquier otra cosa que no sea usted tiene conciencia, ya que no tenemos forma de medirla objetivamente.
DrMcCleod
conciencia y autoconsciencia son lo mismo y dependen de lo mismo. ¿Cuál debería ser la diferencia?
La autoconciencia y la autoconciencia también son lo mismo. No tiene sentido lógico definir un término haciendo referencia a sí mismo. También podría definir un elefante diciendo que es un elefante.
DrMcCleod