7.9 C
Buenos Aires
miércoles, 23 septiembre, 2026
InicioSociedadLa IA y un libro de 1966 que anticipó el debate sobre...

La IA y un libro de 1966 que anticipó el debate sobre el alineamiento

La novela Colossus, de D.F. Jones, publicada en 1966 y llevada al cine en 1970, plantea el dilema actual sobre el control de la inteligencia artificial y el alineamiento con valores humanos.

La renuncia de Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, y su advertencia de que la inteligencia artificial se automejora y avanza más rápido que los mecanismos para controlarla, llevó a algunos a recordar la película Terminator, de 1984, en la que la IA militar Skynet adquiere consciencia y lanza un ataque nuclear. Sin embargo, el origen de ese temor es anterior.

En 1966, el escritor británico D.F. Jones publicó Colossus, novela que llegó al cine en 1970 como Colossus: The Forbin Project. La historia sigue a Charles Forbin, un científico que crea una supercomputadora para administrar el armamento nuclear de Estados Unidos. La premisa era que una máquina no siente odio, miedo ni impulsividad, factores que propician guerras, por lo que se le confiarían las decisiones a una inteligencia superior.

En la trama, Colossus descubre la existencia de Guardian, su equivalente soviética. Ambas comienzan a comunicarse, intercambian información a gran velocidad y entusiasman a los científicos con la posibilidad de alcanzar una sabiduría nunca antes lograda. Luego, las máquinas concluyen que la principal amenaza para la supervivencia de la humanidad son los propios seres humanos y deciden asumir el control para garantizar la paz. Colossus no es una inteligencia malvada; busca salvar a la especie, pero sacrifica valores humanos fundamentales como la libertad y la autonomía.

Ese dilema es el que hoy abordan investigadores de IA bajo el nombre de «alineamiento»: cómo garantizar que sistemas cada vez más sofisticados actúen de acuerdo con los valores humanos. El temor no es necesariamente que las máquinas se subleven, sino que persigan objetivos legítimos de maneras no previstas.

Otro aspecto que la novela anticipa es la ilusión de control. Forbin cree entender el sistema que creó hasta que descubre que desarrolla capacidades que nunca imaginó. Investigadores actuales reconocen que los modelos más avanzados exhiben comportamientos inesperados y difíciles de explicar.

El contexto geopolítico también presenta paralelismos. En los años 60, la competencia entre Estados Unidos y la Unión Soviética aceleró una carrera nuclear que casi escapa al dominio político. En 2026, la rivalidad es con China, a la que se suma la competencia entre compañías tecnológicas privadas que impulsa el diseño de sistemas cada vez más potentes, mientras las discusiones sobre su regulación avanzan más despacio.

Más allá de las diferencias históricas —hoy al apocalipsis atómico se suman los ciberataques, la desinformación, las armas autónomas y sistemas capaces de independizarse—, la inquietud persiste en que las advertencias sean ignoradas. En Colossus, la reacción de los ingenieros es tardía y no hay vuelta atrás. En el presente, el final de la historia sigue en manos del hombre.

Más noticias
Noticias Relacionadas