Mientras científicos y empresas tecnológicas advierten sobre posibles riesgos existenciales de la inteligencia artificial, el gobierno de Estados Unidos mantiene un enfoque de supervisión limitado y prioriza la competencia con China.
En las últimas semanas, aumentaron las advertencias sobre riesgos asociados a la inteligencia artificial (IA). Más de 1.300 científicos informáticos solicitaron a la industria reducir la velocidad de desarrollo y al gobierno intervenir. Jacob Coxon, ingeniero de Anthropic y ex empleado de OpenAI, renunció públicamente y declaró en redes sociales que los principales laboratorios de IA avanzan hacia «sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales».
El sábado, Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo de 3.800 palabras en el que abogó por una desaceleración global del desarrollo de la IA. Elon Musk, empresario del sector tecnológico, respondió en la red social X: «Dario tiene razón». Sam Altman, director ejecutivo de OpenAI, también expresó su apoyo.
En Washington, no hubo una respuesta sustancial. Entre las décadas de 1940 y 1980, se crearon instituciones como la Comisión de Energía Atómica y tratados de control de armas para regular la tecnología nuclear. En la actualidad, el enfoque del gobierno estadounidense sobre la IA ha sido calificado como superficial por especialistas.
El presidente Donald Trump se ha mostrado indiferente ante los temores existenciales. El jueves, al ser consultado por un periodista sobre si le preocupaba que la IA pudiera llevar a la extinción humana, respondió: «No, no tengo ninguna. Me preocupa que si no ganamos en IA, nos encontraremos en una situación muy difícil». Trump señaló que Estados Unidos mantiene una ventaja considerable sobre China y mencionó la próxima visita del líder chino Xi Jinping a Washington.
La Casa Blanca se negó a poner a disposición de los medios a sus principales responsables políticos en materia de IA. Sin embargo, afirmó que la administración busca un equilibrio entre innovación y seguridad, sin dar detalles.
A principios del verano, Trump firmó una orden ejecutiva que creaba un sistema voluntario para que los laboratorios de IA de vanguardia presentaran sus nuevos modelos a una revisión de seguridad de 30 días. La orden no incluye a los modelos de código abierto, que pueden ser adaptados por empresas, científicos o grupos terroristas.
En Palo Alto y Cambridge, informáticos sugieren que los estadounidenses dejen de considerar la IA como una simple herramienta y empiecen a verla como una especie alternativa con la que el mundo tendrá que convivir.
El New York Times ha demandado a OpenAI y Microsoft por presunta infracción de derechos de autor sobre contenido informativo relacionado con sistemas de IA. Ambas compañías negaron las acusaciones.
En una conferencia en Washington la semana pasada, funcionarios gubernamentales y ejecutivos de empresas abordaron las promesas de la IA, pero apenas se debatió la necesidad de frenar o regular la tecnología. Sean Cairncross, director nacional de ciberseguridad de la Casa Blanca, afirmó que la administración intenta «equilibrar la innovación y la rapidez con la seguridad y el manejo responsable de esta tecnología».
Algunos miembros de la administración consideran necesario abordar los riesgos de seguridad de la IA, pero evitan contradecir a Trump, según declaraciones de antiguos funcionarios. Michael Garcia, ex jefe adjunto de políticas en la Agencia de Seguridad de Infraestructura y Ciberseguridad, dijo: «Existe el temor de adelantarse al presidente».
David Sacks, inversor de capital riesgo y antiguo asesor de IA de Trump, desestimó las advertencias de Coxon y las calificó como una operación mediática coordinada «diseñada para asustar al público». Jensen Huang, director ejecutivo de Nvidia, afirmó que la ola de temor fue orquestada por la industria de la ciberseguridad.
En el Capitolio, la IA solo era relevante para muchos legisladores en relación con la oposición pública a la construcción de centros de datos. Los intentos previos de analizar las consecuencias de la IA derivaron en audiencias y declaraciones, pero poca acción legislativa.
El representante Josh Gottheimer, demócrata de Nueva Jersey, dijo que la velocidad de evolución de la IA dificulta que los legisladores se mantengan al día. «Incidentes recientes como el ataque informático a Hugging Face son una verdadera señal de alerta», agregó.
Tras la renuncia de Coxon, demócratas y algunos republicanos expresaron preocupación y propusieron investigar a las empresas de IA. Los demócratas plantearon crear un comité especial sobre IA si recuperan la Cámara de Representantes el próximo año, según Politico. El expresidente Barack Obama advirtió en un evento privado que la IA podría ser «peligrosa» e instó a los demócratas a desarrollar un plan claro sobre los riesgos. El senador Bernie Sanders invitó a legisladores a una reunión informativa privada para discutir preocupaciones con expertos en seguridad de IA.
Un informe de Anthropic publicado el jueves pasado mostró que actores de China, Rusia, Irán y Yemen utilizaron modelos Claude para desarrollar ciberataques, vigilar a disidentes y construir misiles, bombas y drones. También documentó intentos de diseñar armas biológicas.
Los legisladores están lejos de acordar cómo regular los modelos de IA. Las perspectivas de aprobar legislación sustantiva a corto plazo parecen remotas, en parte por la percepción de un «dilema del prisionero» en la carrera entre Estados Unidos y China. El senador Ted Cruz, republicano de Texas, reconoció su preocupación por los riesgos de la IA, pero sugirió que Coxon formaba parte de un esfuerzo coordinado para «asfixiar la IA estadounidense». Cruz afirmó que trabaja en legislación con Amy Klobuchar y John Thune para abordar riesgos catastróficos relacionados con amenazas biológicas y nucleares.
Funcionarios de la administración Trump reconocieron que la IA aumentó los riesgos. Nick Anderson, director interino de la Agencia de Seguridad de Infraestructura y Ciberseguridad, advirtió en la conferencia de Billington: «Sabemos lo peor que puede pasar. Todos ustedes tendrán que volver a casa y hablar con sus familias y amigos y explicarles cómo sabían lo peor que podía pasar y por qué no hicimos lo suficiente».