¿Qué tan importante es la conciencia para hacer inteligencia artificial avanzada?

¿Qué tan importante es la conciencia y la autoconciencia para hacer IA avanzadas? ¿Qué tan lejos estamos de hacer eso?

Al crear, por ejemplo, una red neuronal (muy probablemente) no hay conciencia dentro de ella, sino solo matemáticas detrás, pero ¿necesitamos que las IA se vuelvan conscientes para resolver tareas más complejas en el futuro? Además, ¿hay alguna forma de saber con certeza si algo es consciente o si solo lo está fingiendo? Es "fácil" hacer un programa de computadora que afirme que es consciente, pero eso no significa que lo sea (por ejemplo, Siri).

Y si las IA solo se basan en reglas predefinidas sin conciencia, ¿podríamos llamarlo "inteligencia"?

La conciencia artificial es un objetivo teórico y de ingeniería desafiante. Una vez que se cumpla ese gran desafío, la conciencia consciente de la computadora de sí misma probablemente sea una adición menor, ya que la computadora consciente es solo otro objeto del que su conciencia puede ser consciente.

Un niño puede verse en el espejo y reconocer que mover las manos hacia adelante y hacia atrás o hacer muecas produce los cambios correspondientes en el reflejo. Se reconocen a sí mismos. Más tarde se dan cuenta de que ejercer control físico sobre su propio movimiento es mucho más fácil que ejercer control sobre las manos o la cara de otra persona.

Algunos aprenden que el control limitado de las caras y las operaciones manuales de otros es posible si se dominan ciertas habilidades sociales y económicas. Se convierten en empleadores, propietarios, inversores, activistas, escritores, directores, figuras públicas o empresarios.

Cualquiera que haya estudiado las ciencias cognitivas o haya experimentado la línea entre los tipos de pensamiento porque es un consejero profesional o simplemente un oyente profundo sabe que las líneas alrededor de la conciencia son borrosas. Considera estos.

• Escuchar el discurso
• Viendo una escena
• Centrándose en un juego
• Presentando una idea
• Lavarse para el trabajo
• Conduciendo un auto
• Elegir una compra

Cualquiera de estas cosas se puede hacer con o sin ciertos tipos de conciencia, subconsciencia, impulso o hábito.

Subjetivamente, las personas informan haber salido del automóvil y no recordar haber conducido a casa. Uno puede escuchar a alguien hablando, asentir afirmativamente, responder con un "Sí, lo entiendo" e incluso repetir lo que dijo, y sin embargo parece no tener memoria del contenido del discurso si se le pregunta en profundidad. Uno puede leer un párrafo y llegar al final sin comprensión.

En contraste, una persona puede lavarse conscientemente para el trabajo, considerando la importancia de la higiene y prestando atención como un cirujano que se prepara para una operación, notando el olor del jabón e incluso la cloración del agua de la ciudad.

Entre esos extremos, la conciencia parcial también es detectable mediante experimentos y experiencias personales. La conciencia definitivamente requiere funcionalidad de atención, que supervisa tentativamente la coordinación de otros subsistemas cerebro-cuerpo.

Una vez que un sistema biológico o artificial alcanza la capacidad de coordinar atentamente, los objetos y las tareas hacia los cuales pueden coordinarse pueden intercambiarse. Considera estos.

• Diálogo
• Jugando para ganar
• Detectando honestidad o deshonestidad

Ahora considere cuán similares o diferentes son estas actividades mentales cuando comparamos la atención autodirigida o dirigida externamente.

• Uno puede hablar consigo mismo o hablar con otro
• Uno puede jugar ambos lados de un juego de ajedrez o jugar contra otro
• Uno puede escudriñar los propios motivos o los de otro

Esta es una ilustración de por qué la auto-parte de la auto-conciencia no es el desafío en la IA. Es la coordinación atenta (pero tentativa) lo que es difícil. Los primeros microprocesadores, diseñados para funcionar en sistemas de control en tiempo real, incluyeron (y aún incluyen) señalización de excepción que modela de manera simplista esta tentativa. Por ejemplo, mientras se juega para ganar en un juego, uno podría intentar iniciar un diálogo con el sujeto. La atención puede cambiar cuando las dos actividades requieren los mismos subsistemas.

Tendemos a considerar este cambio de conciencia de atención también. Si somos la persona que intenta iniciar un diálogo con la persona que juega para ganar, podríamos decir "¿Hola?" El signo de interrogación es porque nos preguntamos si el jugador está consciente.

Si se redujera el significado de la conciencia a los criterios más básicos, se podría decir esto.

"Mi red neuronal es inteligente de alguna manera pequeña porque es consciente de la disparidad entre mis criterios de convergencia y el comportamiento actual de la red, ya que está parametrizada, por lo que es realmente un ejemplo de inteligencia artificial, aunque primitiva".

No hay nada groseramente incorrecto en esa afirmación. Algunos lo han llamado "inteligencia estrecha". Esa es una caracterización ligeramente inexacta, ya que puede haber una cantidad astronómica de posibles aplicaciones de una red artificial arbitrariamente profunda que utiliza muchas de las técnicas más efectivas disponibles en su diseño.

El otro problema con la estrechez como caracterización es la inferencia de que existen sistemas inteligentes que no son estrechos. Cada sistema inteligente es estrecho en comparación con un sistema más inteligente. Considere este experimento mental.

Hannah escribe un artículo sobre inteligencia general con excelencia, tanto en tratamiento teórico como en habilidades de escritura. Muchos lo citan y lo hacen referencia. Hannah ahora tiene tanto éxito en su carrera de IA que tiene el dinero y el tiempo para construir un sistema robótico. Ella basa su diseño en su papel ahora famoso y no repara en gastos.

Para su sorpresa, el robot resultante es tan adaptable que su adaptabilidad supera incluso a él mismo. Ella lo llama Georgia Tech por diversión porque vive cerca de la universidad.

Georgia se convierte en una gran amiga. Ella aprende a un ritmo increíble y es una compañera de casa sorprendentemente excelente, limpiando mejor de lo que Hannah pensó humanamente posible, lo que puede ser literalmente cierto.

Georgia se aplica a Georgia Tech, justo bajando la línea de autobús desde la casa de Hannah y estudia inteligencia artificial allí. Tras el logro de un doctorado después de solo tres años de estudio, Georgia se sienta con Hannah después de una fiesta de Thesis Publication muy concurrida que Hannah celebró gentilmente para ella.

Después de que el último invitado se va, hay un momento de silencio cuando Hannah se da cuenta del verdadero estado de su hogar. Ella piensa: "¿Georgia me superará ahora en su investigación?" Hannah finalmente, tímidamente pregunta: "Con total honestidad, Georgia, ¿crees que ahora eres una inteligencia general como yo?"

Hay una pausa Con una mirada forzada de humildad, Georgia responde: "Según tu definición de inteligencia general, lo soy. Ya no lo eres".

Ya sea que esta historia se haga realidad en 2018, 3018 o nunca, el principio es claro. Georgia es tan capaz de analizarse a sí misma comparativamente con Hannah como Hannah es igualmente capaz. En la historia, Georgia aplica la definición creada en el artículo de Hannah porque Georgia ahora puede concebir muchas definiciones de inteligencia y elige a Hannah como la más pertinente en el contexto de la conversación.

Ahora imagine esta alteración de la historia.

... Ella piensa, ¿a qué nivel está pensando Georgia? Hannah finalmente, tímidamente pregunta: "Con total honestidad, Georgia, ¿estás ahora tan consciente como yo?"

Georgia piensa a través de la memoria de todos los usos de la palabra consciente en sus estudios anteriores: mil referencias en ciencia cognitiva, literatura, derecho, neurología, genética, cirugía cerebral, tratamiento de lesiones cerebrales e investigación de adicciones. Hace una pausa de unos pocos microsegundos para considerarlo todo a fondo, al mismo tiempo que detecta la temperatura corporal, los equilibrios neuroquímicos, las tendencias motoras de los músculos faciales y el lenguaje corporal de sus compañeros de cuarto.

Respetuosamente, espera 3.941701 segundos adicionales, que calculó como la demora que minimizaría cualquier humillación a Hannah, a quien ama, y ​​responde: "¿Consciente de qué?"

$a, b, \ldots$$C$$s$$\Phi_c$$x$$\Phi_c(C_x(s))$

$\forall \Phi_c(C_a(s)) \;\;\; \exists \;\;\; b, \, \epsilon>0 \;\; \ni \;\; \Phi_c(C_b(s)) + \epsilon > \Phi_c(C_a(s))$

Esta es una forma matemática de decir que siempre puede haber alguien o algo más consciente de un escenario dado, ya sea que ella, él o ella se den a conocer. Cambiando los criterios de evaluación de la conciencia a la inteligencia, tenemos así.

$\forall \Phi_i(C_a(s)) \;\;\; \exists \;\;\; b, \, \epsilon>0 \;\; \ni \;\; \Phi_i(C_b(s)) + \epsilon > \Phi_i(C_a(s))$

Uno solo puede suponer que el artículo de Hannah define la inteligencia general en relación con lo que sea lo más inteligente, que una vez fueron seres humanos bien educados. Así, la definición de inteligencia de Hannah es dinámica. Georgia aplica la misma fórmula a la nueva situación donde ahora es el estándar contra el cual la inteligencia menor es estrecha.

En cuanto a la capacidad de confirmar la conciencia, en realidad es más fácil de confirmar que la inteligencia. Considere este experimento mental.

Jack está jugando ajedrez con Dylan usando el nuevo juego de ajedrez que Jack compró. A pesar de la belleza estética de este nuevo conjunto, con sus piezas de ónice blanco y ágata negra, Dylan mueve cada pieza con destreza y jaque mate Jack. Jack se pregunta si Dylan es más inteligente que él y le pregunta cuál sería una pregunta normal en esas condiciones.

"Dylan, amigo, ¿cuánto tiempo llevas jugando al ajedrez?"

Independientemente de la respuesta e independientemente de si Dylan es un robot con un procesador cuántico de inteligencia artificial avanzada o un ser humano, la inteligencia de Dylan no se puede medir de manera confiable. Sin embargo, NO HAY DUDA de que Dylan era consciente del juego.

En los ejemplos en las listas en la parte superior de esta respuesta hay un conjunto particular de requisitos para calificar como conciencia. Para el caso de Jack y Dylan tocando, algunas cosas DEBEN funcionar en concierto.

1. Reconocimiento visual del estado del tablero.
2. Control motor del brazo y mano para mover piezas.
3. Detección táctil en puntas de dedos y pulgares
4. Cordinación mano-ojo
5. Coordinación de agarre
6. Un modelo de cómo mover físicamente las piezas del tablero.
7. Un modelo de las reglas del ajedrez en la memoria.
8. Un modelo de cómo ganar cuando se juega (o potencia computacional astronómica para probar todo lo posible de permutación que tenga sentido)
9. Una representación interna del estado de la junta
10. Atención ejecución, visual y en términos del objetivo de ganar
11. Priorización que decide, sin relación con las probabilidades de supervivencia o la acumulación de activos, si vencer a Jack en el ajedrez, hacer algo más o nada (no determinista si la noción antigua y común de la autonomía causal del alma es correcta)

La topología de las conexiones es la siguiente, y puede haber más.

1 ⇄ 4 ⇄ 2

3 ⇄ 5 ⇄ 2

4 ⇄ 6 ⇄ 5

7 ⇄ 8 ⇄ 9

6 ⇄ 10 ⇄ 8

10 ⇄ 11

Esta es una de las muchas topologías de integración que admiten uno de los muchos tipos de cosas a los que podría aplicarse la conciencia.

Ya sea que se mire en el espejo solo para prepararse para el trabajo o que mire profundamente, considerando la pregunta ontológica: "¿Quién soy yo?" Cada combinación de conciencia, subconsciencia, impulso y hábito requiere una topología específica de características mentales. Cada topología debe coordinarse para formar su encarnación específica de la conciencia.

Para abordar algunas otras subpreguntas, es fácil hacer que una máquina que afirma ser consciente de que una grabadora de voz digital se pueda programar para hacerlo en cinco segundos grabándose usted mismo diciéndola.

Hacer que un robot lea esta respuesta o alguna otra concepción, considérelo detenidamente, y luego construya la oración a partir del conocimiento del vocabulario y las convenciones del habla humana para decirle que su conclusión es una tarea completamente diferente. El desarrollo de tal robot puede llevar 1,000 años más de investigación de IA. Tal vez diez. Tal vez nunca.

$\Phi_i$$\Phi_c$$\Phi_i$

$\Phi_c$$\Phi_i$

Las IA autoconscientes son importantes porque la conciencia es lo que nos hace humanos. Y los científicos están tratando de desarrollar IA que estén más cerca de los humanos y del comportamiento humano. El proceso de pensamiento de los humanos es muy complicado y tenerlo desarrollado en IA realmente podría reemplazarnos con robots que tienen conciencia. La única razón por la que las IA no están haciendo un trabajo que involucra la toma de decisiones porque no tienen conciencia.