La Suprema Corte de Justicia de la Provincia de Buenos Aires aprobó un proyecto de reglamento para el uso responsable de inteligencia artificial en la función judicial y habilitó un espacio para que la ciudadanía presente observaciones.
La Suprema Corte de Justicia de la Provincia de Buenos Aires aprobó un proyecto de reglamento para el desarrollo y uso responsable de la inteligencia artificial (IA) en la función jurisdiccional. El texto fue puesto a consideración pública para que las personas interesadas puedan enviar observaciones, comentarios y propuestas.
El proyecto parte del reconocimiento de que la IA ya se utiliza en estudios jurídicos, oficinas públicas, universidades y tribunales. Entre sus aplicaciones actuales se encuentran el resumen de expedientes, la organización de documentos, la traducción de textos, la sistematización de jurisprudencia, la detección de plazos, la asistencia en búsquedas normativas, el análisis de pruebas y la sugerencia de respuestas a casos complejos.
La iniciativa establece que la función jurisdiccional es indelegable e insustituible y que no puede ser ejercida ni reemplazada por sistemas automatizados. Según el proyecto, la IA puede ser una herramienta de apoyo, pero no un sustituto del operador judicial. Las sentencias no deben reducirse a predicciones estadísticas y deben contener razones sobre los alegatos y las pruebas presentadas por las partes.
El reglamento distingue entre usos de bajo riesgo, usos de alto riesgo y usos prohibidos. Esta clasificación permite habilitar ciertos empleos de la IA y restringir otros según el grado de compromiso de los derechos e intereses en juego. Por ejemplo, no es lo mismo utilizar la herramienta para mejorar la redacción de un texto o transcribir una audiencia que para decidir una medida cautelar o estimar riesgos de reincidencia en un proceso penal.
El proyecto también crea una Comisión de Gobernanza y Uso de Inteligencia Artificial, que tendrá a cargo la revisión constante de la implementación de la IA, con diálogo institucional, diagnósticos, pruebas piloto, auditorías, análisis de impacto algorítmico, evaluación de sesgos, capacitaciones y estándares de seguridad.
En los fundamentos del proyecto se citan declaraciones del Papa Francisco en la sesión del G7 sobre IA, celebrada el 14 de junio de 2024 en Borgo Egnazia, Italia. Allí expresó que la inteligencia artificial “no está dotada ni de objetividad ni de neutralidad” y que, al basarse en álgebra, “puede examinar solo realidades formalizadas en términos numéricos”. También se menciona la carta encíclica Magnifica Humanitas del Papa León XIV, que señala que las innovaciones tecnológicas “no son neutrales” y que deben ser examinadas con la pregunta de si contribuyen a hacer crecer a las personas y a los pueblos en humanidad y fraternidad.
El texto final sostiene que el límite constitucional a la utilización de IA en la administración de justicia es de orden institucional y exige que los magistrados mantengan la responsabilidad, la motivación, el control y el juicio humano final.