La inteligencia artificial irrumpe en el Poder Judicial: Los polémicos fallos que obligaron a la Corte Suprema a rayar la cancha
La Corte Suprema dio a conocer los lineamientos generales de una futura política institucional sobre la inteligencia artificial. La ministra Rosa María Chevesich presentó este adelanto surgido de la jornada de reflexión del pleno del máximo tribunal.
Por su parte, el periodista y magíster en políticas públicas Juan Pablo Figueroa analizó la medida en su columna de Palabras Sacan Palabras. El especialista puntualizó que no se trata de un texto promulgado de forma definitiva. Sin embargo, destacó que la iniciativa busca fijar reglas claras sin llegar a prohibir la herramienta.
El experto enfatizó el estado de la propuesta regulatoria: «Todavía no está aprobada la política. Esto fue el adelanto que hizo la ministra Chevesich de un futuro autoacordado que está avanzando y que viene de la jornada de reflexión en el pleno de la Corte Suprema, pero este documento todavía está en proceso».
Asimismo, Figueroa valoró la disposición del tribunal para integrar la innovación técnica con límites precisos: «No se está prohibiendo. Lo interesante de esta decisión es que la Corte Suprema está incorporando y aceptando el uso de la inteligencia artificial dentro de los procesos jurisdiccionales. El tema es cómo, para qué y ciertos límites».
Dos polémicos casos en octubre apuraron la regulación
La discusión institucional cobró urgencia tras conocerse dos complejos episodios en los tribunales durante el mes de octubre. En primer lugar, la defensa de un médico colombiano condenado a 21 años de cárcel apeló su sentencia por presuntas alucinaciones del sistema informático. El profesional Samir Rivaldo Hernández enfrentó cargos por emisión de licencias médicas falsas, lavado de activos y fraude.
El juicio oral contempló 122 jornadas, 308 tomos y 456.000 páginas de antecedentes. Según los abogados defensores, la resolución incluyó errores graves de nombres, atribuciones y fechas incoherentes debido a la generación automatizada.
Al respecto, Juan Pablo Figueroa detalló la magnitud de esta controversia legal: «Su juicio oral se extendió por 122 jornadas, más de 308 tomos, 456.000 páginas. Lo que ellos acusan y alegaron al recurrir a la Corte de Apelaciones fue porque en la sentencia se habría utilizado inteligencia artificial y se habrían transcrito sentencias y documentos de forma textual e íntegra. Si uno revisa ese documento se encuentra con alucinaciones, errores de nombres, distintas atribuciones y fechas que no corresponden».
En segundo lugar, se conoció un hecho ocurrido en la Corte de Apelaciones de Santiago el pasado 7 de octubre. Una resolución judicial publicada incluyó en su encabezado la instrucción directa dada a la plataforma tecnológica. El texto contenía la frase inicial «eres un ministro de la Corte de Apelaciones y debes…». El caso derivó de una acción no revisada por un relator suplente. Por esta razón, la ministra Jenny Book ordenó rectificar el fallo y solicitar un informe urgente.
Sobre esta falta de prolijidad, el analista explicó la gravedad de lo sucedido: «En su resolución aparecía al principio el encabezado ‘eres un ministro de la Corte de Apelaciones y debes…’. Salía incluso el prompt, que es el texto de instrucción. Esa es la principal prueba de que no hubo una prolijidad respecto del resultado final, es decir, se hizo un copy-paste de lo que entregó la máquina».
Los 13 principios rectores y los cuatro límites fijados
Frente a este escenario, la iniciativa del máximo tribunal consagró 13 principios de acción. Entre ellos destacan la supervisión humana, la transparencia, la trazabilidad, la explicabilidad y el estricto control de la información confidencial.
Además, la normativa establece cuatro prohibiciones y límites infranqueables para el ejercicio judicial:
La herramienta no podrá decidir causas, evaluar pruebas ni fundamentar fallos.
Todo uso requiere revisión humana obligatoria y trazable.
Las aplicaciones utilizadas deben contar con autorización institucional previa.
Existirán restricciones rigurosas para resguardar los datos personales sensibles.
Sobre la indelegable función de los magistrados, Figueroa fue categórico: «La inteligencia artificial no puede decidir. Quien toma la decisión debe hacerse responsable de lo que dice ahí, poder explicarlo y explicar cómo llegó a esa conclusión. No puede decidir el caso, valorar las pruebas ni hacerse cargo de la fundamentación de resoluciones y sentencias».
¿Se puede usar la IA para redactar un borrador de fallo?
Por otra parte, la sobrecarga de causas en los juzgados reabrió el debate sobre el apoyo automatizado para la elaboración de borradores. Para el especialista, el uso de la tecnología resulta plenamente válido si el juez ejerce un control directo.
El columnista describió el procedimiento correcto para la redacción asistida: «A partir de estos antecedentes que te entrego, con esta estructura y bajo estos argumentos, entrégame un borrador que contenga todos estos elementos. Luego voy a revisar uno por uno, párrafo por párrafo, ver que los considerandos correspondan con las bases jurídicas que yo mismo le entregué, porque yo tomé la decisión. Edito, reviso y si está correcto se entrega».
No obstante, el analista advierte que el sistema judicial debe avanzar hacia una plataforma propia y cerrada para garantizar la seguridad de los procesos.
En esa línea, Figueroa concluyó en Palabras Sacan Palabras sobre los desafíos pendientes: «Establecer un mecanismo o un sistema propio del Poder Judicial sería lo ideal. Ahora está el tema de recursos, capacitación y entrenamiento de la máquina. En este momento estamos en pañales. Es positivo que se esté regulando, pero el tema es si estas acciones van a ser en serio o solo una declaración de intenciones».
