Un análisis del director del Laboratorio de Innovación e Inteligencia Artificial de la UBA advierte sobre la pérdida de control y responsabilidad al delegar tareas en sistemas de IA.
Un artículo de Juan G. Corvalán, director del Laboratorio de Innovación e Inteligencia Artificial (IALAB) de la Facultad de Derecho de la UBA, plantea los riesgos de delegar progresivamente tareas en sistemas de inteligencia artificial (IA).
Corvalán sostiene que, al encargar a la IA tareas que antes realizaban los humanos, se corre el riesgo de perder la capacidad de supervisión y control. Señala que la responsabilidad legal sigue recayendo en las personas, pero la capacidad real de ejercerla puede desaparecer.
El texto advierte sobre la propuesta de algunos sectores tecnológicos de eliminar la intervención humana para ganar eficiencia. Corvalán argumenta que las personas no son un obstáculo, sino que aportan elementos que la máquina no posee, como la capacidad de responder ante consecuencias y de ejercer la responsabilidad.
Se menciona el ejemplo de un jurado popular: aunque una IA pudiera predecir un veredicto con alta precisión, el valor de la decisión reside en quiénes la toman y en el proceso de deliberación, no solo en el resultado. Asimismo, se destaca que actos como un perdón o una disculpa sincera requieren de un sujeto humano que los realice.
Corvalán introduce el concepto de «sedentarismo cognitivo», similar al sedentarismo físico, que requiere rediseñar los entornos organizacionales para preservar la capacidad de pensar. El artículo concluye que la pregunta central no es técnica, sino sobre el tipo de sociedad que se desea construir, y que la opción de mantener la intervención humana no ocurre automáticamente, sino que requiere decisiones de diseño.
El texto retoma ideas del libro Sedentarismo cognitivo. Productividad, agentes de IA y los riesgos de delegar el pensamiento, de Juan G. Corvalán.