¿Es necesaria la conciencia para cualquier tarea de IA?

La conciencia es difícil de definir , pero para esta pregunta vamos a definirla como "experimentar realmente la información sensorial en lugar de simplemente poner un montón de datos a través de una máquina inanimada". Los humanos, por supuesto, tienen mentes; para las computadoras normales, todas las cosas que "ven" son solo más datos. Alternativamente, se podría decir que los humanos son sensibles , mientras que las computadoras tradicionales no lo son.

Dejando a un lado la pregunta de si es posible construir una máquina inteligente, ¿realmente hace una diferencia si una IA es inteligente o no? En otras palabras, ¿hay tareas que se hacen imposibles, no solo más difíciles, por falta de sensibilidad?

Nadie sabe.

Por qué: porque no es posible determinar formalmente incluso si sus semejantes son realmente conscientes (en cambio, pueden ser lo que filosóficamente se denomina 'Zombi' ). Ninguna prueba conocida por la física moderna es suficiente para decidir. Por lo tanto, es posible que usted sea el único ser sensible, y todos los demás sean un robot.

En consecuencia, no podemos determinar qué tareas requieren sensibilidad.

Tenga en cuenta que el estado ontológico de los zombis es controvertido: algunos filósofos de la IA (por ejemplo, Daniel Dennett) afirman que los zombis son lógicamente imposibles, mientras que otros como David Chalmers afirmarían que un zombi se vería obligado a afirmar que experimentan qualia (es decir, son sensibles) a pesar de que no lo hacen.Aquí hay un artículo muy legible de Flanagan y Polger que también explica por qué una versión neurológica más fuerte de la prueba de Turing es insuficiente para detectar un zombi.

EDITAR: en respuesta al comentario sobre si existe una prueba objetiva para distinguir la sensibilidad de la no sensibilidad:

Nadie sabe. Lo que sí creemos es que esto requeriría algo además de lo que la física moderna puede decirnos actualmente. David Chalmers ha especulado que los qualia deberían introducirse como una nueva forma de unidad física, ortogonal a las demás de la misma manera que la carga eléctrica es ortogonal a la distancia.

En ausencia de una prueba objetiva, tenemos que confiar en las variantes de prueba de Turing, que no garantizan más la conciencia en el tema que la inteligencia.

No.

La experiencia de ver es, por definición, no causal. Cualquier cosa no causal no puede ser un requisito de un proceso físico; un qualia no puede permitirle a un robot la capacidad de hacer algo que de otro modo no podría hacer.

Tal vez.

Aunque no se requiere un qualia para una tarea de IA dada, eso no quiere decir que una IA suficientemente avanzada no implique qualia. Podría ser que las llamadas tareas de IA completa requieren un robot que, aunque no utiliza qualia, lo produce de todos modos.

Si.

Qualia puede referirse a alguna propiedad no física de mala calidad, pero es especial porque sabemos que también existe físicamente. El hecho de que pueda discutir mis qualia a sabiendas (o, si no me cree, el hecho de que puede hacerlo) implica que mis (o sus) qualia tienen un efecto físico.

Es lógico pensar que si aceptamos los qualia de los demás sobre la base de los nuestros, debe ser por la base física de los nuestros ¹ . Por lo tanto, se podría argumentar que ² cualquier robot que tenga una capacidad física equivalente debe implicar qualia.

¹ desde lo subjetivo es físicamente no causal, por lo que puede no causar nosotros para aceptar cualquier cosa.

² siempre y cuando no hagas la suposición particularmente extraña de que los qualia están de alguna manera vinculados a su manifestación física directa, que en el mejor de los casos es tenue, ya que si hubiéramos desarrollado el equivocado, aún afirmarías que es el correcto con la misma certeza.

Usemos una prueba simple basada en el sentido común: ¿con qué frecuencia ve a un ser humano resolver problemas que requieren el uso de la razón cuando están inconscientes? Sí, puede encontrar instancias de genios como Ramanujan que resuelven problemas complejos durante o después de un estado de sueño, pero estos implican una conciencia parcial. No se ve a tipos como Einstein con la teoría de la relatividad mientras están en coma; los Padres Fundadores no escribieron la Declaración de Independencia mientras caminaban dormidos; de hecho, ni siquiera puedes encontrar instancias de amas de casa que armen su lista de compras para la semana durante el sueño profundo de las olas delta. Esto se basa en una definición dura de inteligencia, que requiere el uso de la razón; nadie dice: "Esa mosca es inteligente" o "esa ardilla es inteligente" precisamente porque ninguno es capaz de usar la razón. Esta es una barra muy alta para la IA, pero es la definición de sentido común utilizada por la gente común como cuestión práctica, en el habla cotidiana. Del mismo modo, en la práctica, todos asumen que la conciencia es necesaria para el ejercicio de ese tipo de inteligencia.

Por el contrario, podemos llegar a otro criterio basado en el sentido común para juzgar las objeciones a este argumento, particularmente el solipsista, basado en 3 elementos: 1) practicidad; 2) el efecto que tienen las objeciones en quienes las sostienen sinceramente; y 3) el efecto que las acciones basadas en esas creencias tienen en los demás. Me llevará varios párrafos hacer este caso, pero la longitud es necesaria si quiero presentar el caso de una manera completa y exhaustiva.. Es cierto que no podemos probar que otro ser humano posee conciencia, si nuestro estándar es una prueba absoluta. De hecho, no podemos proporcionar pruebas absolutas de nada; siempre hay lugar para alguna objeción, no importa cuán ridícula o insignificante sea. Como han señalado algunos filósofos, tal vez toda la realidad tal como la conocemos es solo un sueño, o el producto de una conspiración larga e involucrada como la trama de la película de Jim Carrey The Truman Show. La clave para cumplir con tales objeciones es que requieren un retroceso infinito de objeciones cada vez más insostenibles, cuya probabilidad se hunde con cada paso adicional requerido para justificar tales dudas irrazonables; Siempre me he preguntado si podríamos llegar a una "métrica de ridiculez" para el aprendizaje automático basada en la cardinalidad de tales objeciones (o la selectividad de los conjuntos difusos). Si permitiéramos a los críticos meter el pie en la puerta con toda clase de objeciones irrazonables, sería imposible cerrar cualquier debate. La raza humana quedaría paralizada por la inacción porque nada sería decidible; pero como la banda de rock Rush señaló una vez: "Si eliges no decidir, aún así has ​​tomado una decisión". En algún momento debemos aplicar una prueba para decidir tales cosas, incluso en ausencia de pruebas absolutas; la negativa a aplicar una prueba también constituye una opción. Resolver un argumento de este tipo es como un juego del juego chino Go: una vez que el otro jugador está rodeado y no le quedan más movimientos, el juego termina; Si la evidencia de una persona ha sido desmentida y no le quedan más justificaciones, entonces podemos concluir que está actuando sin razón. Hay personas corriendo alegando que el Holocausto nunca sucedió, o la Flat Earth Society, etc., pero su existencia no debe y no nos impide tomar medidas contrarias a sus ideas. Podemos desacreditar las objeciones de los maniáticos como la Flat Earth Society más allá de una duda razonable porque al final, simplemente no pueden responder a todas nuestras refutaciones. Me alegro de que los qualia y los zombis filosóficos se hayan criado porque son una conversación interesante y alimento para el pensamiento, pero el solipsismo se actúa tan raramente como las ideas de la Flat Earth Society precisamente porque la evidencia incompleta Podemos desacreditar las objeciones de los maniáticos como la Flat Earth Society más allá de una duda razonable porque al final, simplemente no pueden responder a todas nuestras refutaciones. Me alegro de que los qualia y los zombis filosóficos se hayan criado porque son una conversación interesante y alimento para el pensamiento, pero el solipsismo se actúa tan raramente como las ideas de la Flat Earth Society precisamente porque la evidencia incompleta Podemos desacreditar las objeciones de los maniáticos como la Flat Earth Society más allá de una duda razonable porque al final, simplemente no pueden responder a todas nuestras refutaciones. Me alegro de que los qualia y los zombis filosóficos se hayan criado porque son una conversación interesante y alimento para el pensamiento, pero el solipsismo se actúa tan raramente como las ideas de la Flat Earth Society precisamente porque la evidencia incompletano tienen carreras contra ella.

Como GK Chesterton (también conocido como "El apóstol del sentido común") señala en su clásico ortodoxia, la duda radical del tipo que muchos filósofos clásicos predicaron no es un camino hacia la sabiduría sino hacia la locura; Una vez que vamos más allá de una duda razonable, terminamos actuando sin razón. Él dice que en ausencia de pruebas absolutas podemos recurrir a otra forma secundaria de evidencia: si la filosofía de una persona lleva a un hombre a Hanwell, la infame institución mental británica. Chesterton argumenta que cuando las personas realmente actúan sobre ideas como el solipsismo (en lugar de simplemente debatirlas de manera pedante en un aula cubierta de hiedra) se vuelven locas. criterios para ciertas formas de esquizofrenia. La deshumanización que ocurre cuando la duda radical se aplica a los qualia también está íntimamente relacionada con el comportamiento sociópata, Aunque GKC no cita su ejemplo aterrador directamente, René Descartes era él mismo la prueba viviente. Era un matemático brillante que todavía se anima por dudar de todos, excepto de su propia existencia, con la famosa máxima "Creo, luego existo". Pero Descartes también solía llevar un maniquí de su hermana muerta con él a los cafés europeos, donde se lo podía ver charlando con él. La esencia de todo esto es que podemos juzgar el valor de una idea por cómo afecta el bienestar del creyente, o por cómo afectan a los demás a través de elecciones éticas basadas en esas creencias. Cuando las personas realmente actúan sobre la duda radical del tipo expresado en el solipsismo y la negación de los qualia comunes, a menudo tiene un efecto negativo sobre ellos y otros con quienes entran en contacto. Era un matemático brillante que todavía se anima por dudar de todos, excepto de su propia existencia, con la famosa máxima "Creo, luego existo". Pero Descartes también solía llevar un maniquí de su hermana muerta con él a los cafés europeos, donde se lo podía ver charlando con él. La esencia de todo esto es que podemos juzgar el valor de una idea por cómo afecta el bienestar del creyente, o por cómo afectan a los demás a través de elecciones éticas basadas en esas creencias. Cuando las personas realmente actúan sobre la duda radical del tipo expresado en el solipsismo y la negación de los qualia comunes, a menudo tiene un efecto negativo sobre ellos y otros con quienes entran en contacto. Era un matemático brillante que todavía se anima por dudar de todos, excepto de su propia existencia, con la famosa máxima "Creo, luego existo". Pero Descartes también solía llevar un maniquí de su hermana muerta con él a los cafés europeos, donde se lo podía ver charlando con él. La esencia de todo esto es que podemos juzgar el valor de una idea por cómo afecta el bienestar del creyente, o por cómo afectan a los demás a través de elecciones éticas basadas en esas creencias. Cuando las personas realmente actúan sobre la duda radical del tipo expresado en el solipsismo y la negación de los qualia comunes, a menudo tiene un efecto negativo sobre ellos y otros con quienes entran en contacto. Pero Descartes también solía llevar un maniquí de su hermana muerta con él a los cafés europeos, donde se lo podía ver charlando con él. La esencia de todo esto es que podemos juzgar el valor de una idea por cómo afecta el bienestar del creyente, o por cómo afectan a los demás a través de elecciones éticas basadas en esas creencias. Cuando las personas realmente actúan sobre la duda radical del tipo expresado en el solipsismo y la negación de los qualia comunes, a menudo tiene un efecto negativo sobre ellos y otros con quienes entran en contacto. Pero Descartes también solía llevar un maniquí de su hermana muerta con él a los cafés europeos, donde se lo podía ver charlando con él. La esencia de todo esto es que podemos juzgar el valor de una idea por cómo afecta el bienestar del creyente, o por cómo afectan a los demás a través de elecciones éticas basadas en esas creencias. Cuando las personas realmente actúan sobre la duda radical del tipo expresado en el solipsismo y la negación de los qualia comunes, a menudo tiene un efecto negativo sobre ellos y otros con quienes entran en contacto.

De manera indirecta, la comunidad de IA también se enfrenta a un riesgo bastante serio, tal vez una tentación permanente, de cometer el error opuesto, de atribuir a sus productos de Aprendizaje Automático cualidades comunes, conciencia y similares sin la prueba adecuada. Recientemente escuché un caso basado en argumentos lógicos sorprendentemente malos por académicos respetados en el sentido de que las plantas poseen "inteligencia", basada en definiciones realmente débiles y una clara confusión con la autoorganización. No podemos proporcionar una prueba absoluta de que una roca no tiene inteligencia, lo que equivale al viejo problema de refutar un negativo. Afortunadamente, actualmente pocos hombres actúan de acuerdo con tales creencias, porque cuando lo hacen, terminan perdiendo la cabeza. Si tomamos tales argumentos en serio, podríamos ver leyes aprobadas para proteger el tipo de Pet Rocks que eran populares en el ' 70 (todavía estoy molesto porque el mío fue robado jajaja). Sin embargo, sería mucho más fácil cometer el mismo error de atribuir conciencia, inteligencia y otras cualidades similares a una máquina de última generación, debido a las ilusiones, la arrogancia, las elevadas credenciales de los inventores, la influencia de ciencia ficción y la historia de amor moderna con la tecnología. En el futuro, tengo pocas dudas de que tendremos Cargo Cult of AI, tal vez legalmente protegido como una especie de especie en peligro de extinción, con derechos civiles, pero que no tenga más conciencia, alma o inteligencia real que una roca. No me cite sobre esto, pero creo que Rod Serling una vez escribió una historia en este sentido. inteligencia y otras cualidades similares a una máquina de vanguardia, debido a ilusiones, arrogancia, las credenciales nobles de los inventores, la influencia de la ciencia ficción y la historia de amor moderna con la tecnología. En el futuro, tengo pocas dudas de que tendremos Cargo Cult of AI, tal vez legalmente protegido como algún tipo de especie en peligro de extinción, con derechos civiles, pero que no tenga más conciencia, alma o inteligencia real que una roca. No me cite sobre esto, pero creo que Rod Serling una vez escribió una historia en este sentido. inteligencia y otras cualidades similares a una máquina de vanguardia, debido a ilusiones, arrogancia, las credenciales nobles de los inventores, la influencia de la ciencia ficción y la historia de amor moderna con la tecnología. En el futuro, tengo pocas dudas de que tendremos Cargo Cult of AI, tal vez legalmente protegido como algún tipo de especie en peligro de extinción, con derechos civiles, pero que no tenga más conciencia, alma o inteligencia real que una roca. No me cite sobre esto, pero creo que Rod Serling una vez escribió una historia en este sentido. - tal vez legalmente protegido como una especie de especie en peligro de extinción, con derechos civiles, pero sin más conciencia, alma o inteligencia real que una roca. No me cite sobre esto, pero creo que Rod Serling una vez escribió una historia en este sentido. - tal vez legalmente protegido como una especie de especie en peligro de extinción, con derechos civiles, pero sin más conciencia, alma o inteligencia real que una roca. No me cite sobre esto, pero creo que Rod Serling una vez escribió una historia en este sentido.

La mejor manera de evitar este destino es apegarse a las interpretaciones y definiciones de sentido común de estas cosas, de las cuales nos mantenemos alejados en gran parte porque establecen una barra muy alta para la IA que quizás nunca podamos superar en nuestras vidas. , si alguna vez. Quizás la IA ni siquiera es lógicamente posible, en ningún nivel de tecnología; Recuerdo algunas pruebas que pueden interpretarse a tal efecto. Esos estándares altos pero razonables pueden ser cada vez más difíciles de cumplir si Chesterton y sus colegas, como Hilaire Belloc y Arnold Lunn, tenían razón en su evaluación de que el uso de la razón en realidad se ha estado rompiendo en la civilización occidental, al menos desde la Ilustración; El libro de Lunn de 1931, The Flight from Reason, es un clásico en este sentido y aún no se ha refutado. Esta tendencia histórica es un tema amplio en sí mismo, pero es suficiente para decir que la negación de la razón y la obsesión con la tecnología son directamente relevantes de manera obvia en el campo de la IA Si el Vuelo de la Razón todavía está en curso, entonces nosotros se sentirá cada vez más tentado a recurrir a objeciones fáciles e imprudentes para degradar el uso de la razón y cualidades indispensables como la conciencia en nuestras definiciones de IA, pero propondrá criterios cada vez más débiles para probarlo; simultáneamente, nuestra tecnología continuará mejorando, impulsando así el lado "Artificial" de la Inteligencia Artificial. entonces estaremos cada vez más tentados a recurrir a objeciones fáciles e imprudentes para degradar el uso de la razón y cualidades indispensables como la conciencia en nuestras definiciones de IA, pero presentaremos criterios cada vez más débiles para probarlo; simultáneamente, nuestra tecnología continuará mejorando, impulsando así el lado "Artificial" de la Inteligencia Artificial. entonces tendremos cada vez más la tentación de recurrir a objeciones fáciles e imprudentes para degradar el uso de la razón y cualidades indispensables como la conciencia en nuestras definiciones de IA, pero presentaremos criterios cada vez más débiles para probarlo; simultáneamente, nuestra tecnología continuará mejorando, impulsando así el lado "Artificial" de la Inteligencia Artificial.

No me malinterpreten: si no pensara que podemos hacer algunas cosas realmente emocionantes con la IA, no estaría aquí. Pero la mayoría de ellos se pueden lograr sin replicar la inteligencia humana real, resolviendo clases enteras de problemas tangenciales que son difíciles de pensar para los humanos, pero que no requieren conciencia o el uso de la razón que marca la inteligencia humana. Las capacidades de reconocimiento de imagen de las redes neuronales convolucionales son un ejemplo, por ejemplo; Si queremos inteligencia humana, siempre podemos fabricarla de la manera más fácil, económica y probada, teniendo bebés. Quizás estas formas tangenciales de IA deberían ser suficientes para nosotros por ahora. No podemos inyectar el uso de la razón en nuestras máquinas si no poseemos lo suficiente para decidir si la razón es necesaria para la IA, o incluso para discernir en qué consiste. No podemos diseñar o desaprobar la conciencia para la IA hasta que seamos conscientes de su importancia. Sin embargo, apostaría a que todos los que lean este hilo y evalúen las respuestas inteligentes lo hacen en un estado consciente. Eso en sí mismo debería responder nuestra pregunta satisfactoriamente por ahora.

En cuanto a la definición que ha proporcionado:

en realidad experimentando información sensorial en lugar de simplemente poner un montón de datos a través de una máquina inanimada.

Tanto las computadoras como los humanos experimentan información sensorial. Podría conectar una computadora a un globo ocular humano y hacer que ejecute las mismas rutinas de filtrado que el cerebro humano (la eliminación de la borrosidad mientras mueve el ojo y de los objetos que no están enfocados, etc.).

Yo propondría que una definición más precisa de conciencia es la capacidad y la tendencia a la reflexión propia. Tanto las computadoras como los cerebros humanos tienen actividades autónomas. No solo mecánicos sino también en nuestras reacciones. La distinción entre la computadora inconsciente y la mente humana autoconsciente es que también tenemos la capacidad de "mirar" esos patrones en nosotros mismos y considerarlos.

Y así, no, la conciencia no es necesaria para ninguna tarea de IA. El reconocimiento de imágenes es una tarea de IA que no requiere conciencia, ya sea en humanos o de otra manera. Su cerebro clasifica el "lavado" de colores de sus ojos en objetos discretos de una manera en gran medida autónoma.

tl; dr conciencia es autorreferencia.

Dos tipos de tareas requieren conciencia:

1. conciencia

2. Cualquier tarea que requiera una dinámica extrema, donde la resolución de problemas requiere la analogía entre varios estados de cosas en 3D y el conocimiento previo de cómo resolver el problema es mínimo.

Sin embargo, una vez que se adquiere conocimiento sobre cómo resolver un problema dado, una mayor optimización eliminará esa necesidad de conciencia.

Si le da suficiente especificidad a un problema, elimina la necesidad de un solucionador general. Y entonces la única necesidad restante de una conciencia es por sí misma.

En un sentido muy específico, diría que sí.

Las únicas tareas que la sensibilidad haría posible eran los sentimientos y pensamientos reales en sí mismos. En este punto, la sensibilidad no juega un papel en ninguna de las tareas que le pedimos a los AI que completen; Nos estamos acercando rápidamente al punto de poder enseñarle a una máquina 'muerta' a hacer casi cualquier cosa que una IA inteligente pueda hacer, en un sentido práctico.

La sensibilidad coloquialmente a menudo se traduce en "la capacidad de razonar mientras se comprende que uno mismo y la otra entidad es un agente de actuación distinto" o algo por el estilo. Literalmente significa algo más en la línea de la autoconciencia y la definición de conciencia que tienes arriba. Lo que quiero decir es que nos estamos acercando fácilmente al punto en el que las IA 'muertas' pueden imitar muy bien la primera forma de pensar, simplemente aprendiendo e interpretando muy bien los datos.

                              _{¿El robot ve una amalgamación de hueso o un ser que alguna vez fue?}

Por lo tanto, una máquina verdaderamente inteligente sería superior en capacidad (en comparación con una IA 'muerta' realmente avanzada) solo en el respeto de poder experimentar 'verdaderamente' la información.

Esto funciona muy bien en paralelo con el llamado "Argumento del conocimiento" que en esencia debate este tema. La versión que escuché y que me sorprende es que hay una chica muy inteligente en una habitación con acceso a todo tipo de información. A ella le gusta el color azul. O eso piensa ella; ella nunca lo ha visto en realidad. Tiene toda la información disponible en el mundo sobre los colores y cómo funcionan, etc., pero ¿sabe realmente qué es el azul hasta que lo ve?

Otra gran aventura histórica en este campo es la famosa pintura:

El título se traduce: "Esto no es una tubería". Y la idea es que esto, sinceramente, no es una pipa. En este momento hay un montón de píxeles en su pantalla en una determinada configuración: todos podemos "ver" una tubería, pero ¿qué significa eso realmente?

Al final del día, creo que la IA súper inteligente 'muerta' prácticamente puede hacer cualquier cosa que uno 'en vivo' pueda hacer, siendo este último superior en y de la 'vida' misma.

Un ser sin sensibilidad no puede sufrir. Si, por ejemplo, quisiéramos alegrarnos del sufrimiento de otro, solo bastaría una IA que fuera sensible.

Supongamos que tenemos algunos sádicos que no pueden estar satisfechos o productivos a menos que puedan producir mucho sufrimiento. Y digamos que solo nos preocupamos por minimizar el sufrimiento humano y animal. Lo que necesitaríamos para este trabajo es algo no humano y no animal que pueda sufrir. Una IA consciente lo haría, una no consciente no.

La afirmación se hizo en los comentarios de que la conciencia no puede ser probada, excepto tal vez por introspección. Pero claramente esto no es un problema ya que los sádicos disfrutan torturando a otros, y esos otros tampoco pueden probar que están conscientes.