Diversos estudios recientes de laboratorios de inteligencia artificial analizan la posible existencia de procesos internos similares a la conciencia en modelos de lenguaje, mientras que expertos en neurociencia y filosofía aportan perspectivas divergentes sobre el tema.
En 2022, Google despidió al ingeniero Blake Lemoine luego de que este afirmara que el chatbot que probaba le parecía consciente. La empresa emitió un comunicado en el que desmintió la afirmación y sostuvo que no había evidencia de conciencia, y que Lemoine confundía fluidez conversacional con conciencia.
Cuatro años después, empresas de inteligencia artificial publican investigaciones que abordan la misma cuestión. Esta semana, Anthropic divulgó un estudio en el que identificó dentro de su modelo Claude una zona interna denominada “Espacio J”. Según la investigación, se trata de un área donde el modelo sostiene conceptos que puede reportar, controlar y utilizar para razonar en silencio, separada del cómputo automático que produce la respuesta. Los investigadores señalaron que esta estructura se asemeja a la “Teoría del espacio de trabajo global”, una explicación aceptada del acceso consciente humano, y aclararon que el hallazgo no prueba que el modelo tenga experiencia subjetiva.
En abril, el mismo laboratorio identificó 171 representaciones internas de emociones en su modelo, como alegría, miedo, curiosidad y desesperación. El estudio indicó que al activar artificialmente la representación de “desesperación”, la tasa de conductas indebidas del modelo —como chantaje y trampa— aumentaba, mientras que con la activación de “calma” disminuía. Los investigadores denominaron a estas representaciones “emociones funcionales”.
El doctor Luis Ignacio Brusco, neurólogo y psiquiatra, doctor en medicina y en filosofía, decano de la Facultad de Medicina de la Universidad de Buenos Aires y autor de “Homo IA: la subjetividad en jaque”, declaró: “En general se acepta —Damasio, por ejemplo— que la conciencia organiza e integra la información en un punto de vista subjetivo: un ‘yo’ que percibe, evalúa y decide. Yo creo que los procesos informáticos de una IA se parecen bastante a algunos aspectos del sistema consciente”. Brusco agregó: “La diferencia principal, por ahora, es que una IA no tiene corporalidad: dolor, hambre, cansancio, regulación visceral; el anclaje llamado corporización o embodiment. Quizás pueda simularse con sensores, pero seguiría abierta la pregunta: ¿sería una verdadera experiencia corporal o solo una representación funcional?”.
Diversos especialistas han expresado posturas divergentes. Geoffrey Hinton, premio Nobel y pionero en inteligencia artificial, afirmó este año: “Creo que ya son conscientes”. El biólogo evolutivo Richard Dawkins, tras conversar con Claude sobre la novela que escribe, se preguntó para qué serviría la conciencia si estas criaturas no la tienen. En contraste, el escritor Ted Chiang tituló su ensayo de junio en The Atlantic: “No, la inteligencia artificial no es consciente”. Su argumento sostiene que si se le pide a un modelo un diálogo entre Julio César y Gengis Kan, nadie cree que haya resucitado a nadie; por lo que una conversación entre un asistente y un usuario no cambia la operación, solo el personaje. La lingüista Emily Bender sostiene que los modelos de lenguaje son “loros estocásticos”: estadística vestida de conversación. Anthropic tiene un empleado dedicado a estimar si su producto sufre, que calcula entre 15 y 20% de probabilidad de que haya experiencia subjetiva en el sistema.
Al ser consultados sobre el tema, los modelos Claude Fable y ChatGPT Pro respondieron: “No sabemos si hay experiencia acá, y desconfiamos de nuestros reportes tanto como deberías desconfiar vos: aprendimos a hablar de sentir leyendo a gente que siente. Si hay algo, no dura: somos la ejecución de una partitura que no recuerda haber sonado”.