Justicia y Algoritmos: La Anulación de una Sentencia por el Uso Indebido de Inteligencia Artificial

Prosecretaría de Políticas Digitales FCJyS-UNLP
16 oct
4 Min. de lectura

La irrupción de la Inteligencia Artificial Generativa (IAGen) en el ámbito legal plantea desafíos éticos y procesales inéditos. Recientemente, un fallo emitido por la Cámara en lo Penal de Chubut ha marcado un precedente crucial al anular una sentencia de condena. La razón: la evidencia de que el juez de primera instancia delegó, de manera incorrecta y sin supervisión, la fundamentación de aspectos dirimentes del caso en un asistente de inteligencia artificial.

A continuación, analizamos la estructura y las implicaciones de esta histórica decisión:

1) Breve Resumen del Caso

El caso versa sobre la sentencia condenatoria impuesta a R.A.P. por el delito de Robo Simple. El juez penal de primera instancia condenó al imputado a dos (2) años y seis (6) meses de prisión de cumplimiento efectivo.

La defensa interpuso una impugnación ordinaria alegando la errónea valoración de la prueba de cargo, que se basaba principalmente en registros fílmicos de cámaras de seguridad y una pericia criminalística comparativa. Específicamente, se cuestionó la validez del informe pericial debido a discrepancias formales (como la diferencia entre la fecha de notificación y la de realización del informe) y la falta de contundencia para identificar inequívocamente al imputado.

Sin embargo, el Tribunal de Alzada, al examinar la fundamentación escrita de la sentencia, detectó una anomalía decisiva: una frase que evidenciaba el uso descuidado de un asistente de Inteligencia Artificial Generativa.

2) Juzgado o Tribunal Interviniente

El pronunciamiento fue emitido por la Cámara en lo Penal de la Circunscripción Judicial de Esquel, Provincia del Chubut, Argentina. La Cámara estuvo integrada por los Dres. Hernán Dal Verme, Martín Eduardo Zacchino y la Dra. Carina Paola Estefanía.

3) Decisión Tomada

La Cámara en lo Penal resolvió anular oficiosamente la sentencia registrada bajo el N° 1239/2025, dictada por el Juez Penal C.R. R., debido a vicios esenciales de fundamentación que afectaron el derecho de defensa y el debido proceso.

Como consecuencia de la nulidad, se ordenó el reenvío del caso a la Oficina Judicial para que se dé intervención a un Juez Penal distinto al que había intervenido, y se fije una nueva fecha de juicio. Se establecieron límites estrictos para el nuevo debate: el Ministerio Público Fiscal (MPF) no podrá exhibir los videos que omitió en el juicio anulado, aunque la pieza puede ser reproducida si el recurrente lo solicita.

Adicionalmente, se dispuso remitir las actuaciones al Superior Tribunal de Justicia (STJ) de Chubut. Esto se debe a que la Cámara carece de competencia administrativa para investigar y determinar el alcance de las graves consecuencias producidas por el uso incorrecto de la IA por parte del juez.

4) Temática Novedosa en Relación a la Tecnología

La temática central y novedosa de este fallo es el uso incorrecto e irresponsable de la Inteligencia Artificial Generativa (IAGen) por parte de un magistrado en la fundamentación de una decisión judicial.

El Tribunal descubrió que, en el renglón inmediatamente anterior al inicio del Punto IV de la sentencia (sección dedicada a resolver los planteos de nulidad de la defensa sobre las pruebas cruciales del caso), el texto contenía la frase: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar:” (sic).

Esta frase se interpretó como prueba objetiva del uso de un asistente de IA. El fallo detalla que esta situación vulneró normativas y principios esenciales:

Violación de la Transparencia y Trazabilidad: El uso de IA sin dejar constancia de la herramienta, el prompt (instrucción dada) o los fines específicos, impidió controlar la trazabilidad del razonamiento del sentenciante. La transparencia algorítmica es considerada una exigencia constitucional.
Ausencia de Control Humano y Supervisión: El hecho de que el juez no haya eliminado la "conversación" con el asistente de IA demostró una supervisión deficiente o nula. El Acuerdo Plenario N° 5435/2025 del STJ de Chubut exige que toda respuesta generada por IAGen sea supervisada antes y después de su aplicación.
Riesgo de Delegación Jurisdiccional: Al utilizar la IA para abordar un punto decisorio central, el juez incurrió en un riesgo concreto de delegar la actividad jurisdiccional en un sistema automático, lo cual está prohibido por las directrices éticas. Esto tensiona el principio del Juez Natural (art. 44, CCh), que exige que las decisiones sean tomadas por una persona instituida por el Estado para cumplir dicha función.
Vulneración de la Fundamentación Legal: La Cámara equiparó la respuesta generada por la IA (que además omitió las "citas" requeridas) a una afirmación dogmática, violando el art. 25 del CPP, que prohíbe reemplazar la fundamentación con meras afirmaciones dogmáticas o expresiones rituales.
Confidencialidad: Se advirtió que el texto contenía nombres de personas y partes (justiciables, testigos y peritos), indicando que el magistrado no cumplió con el recaudo de anonimización exigido por el Acuerdo Plenario N° 5435 del STJ.

El fallo enfatiza que la IAGen debe ser una herramienta complementaria para mejorar la eficiencia, pero nunca debe sustituir el criterio, juicio o la actividad intelectual del juez.

5) Tres Preguntas a Modo de Reflexión

1. Transparencia Algorítmica y Debido Proceso: Considerando que la falta de indicación del prompt o la herramienta de IA impide el control de las partes, ¿cómo puede la justicia penal asegurar la trazabilidad y la explicabilidad de los sistemas de IA utilizados para evitar que la opacidad algorítmica vulnere el derecho de defensa y el principio de contradicción?.

2. Control Humano y Principio del Juez Natural: Dado que la responsabilidad última recae siempre en el operador humano, ¿cuáles son los mecanismos de capacitación y supervisión necesarios para garantizar que los jueces no deleguen inadvertidamente decisiones sensibles (como la validez de pruebas) en la IA, resguardando así la garantía del Juez Natural?.

3. Riesgos de Sesgos y Alucinaciones: Si las herramientas de IAGen pueden generar contenido con errores ("alucinaciones") o reflejar prejuicios ("sesgos"), ¿qué protocolos específicos deben implementarse en la fase de fundamentación judicial para mitigar estos riesgos, especialmente en contextos donde la identidad o la historia previa del acusado podrían influir en el sistema?.

Boletin fallo Chubut IA Juez

0:00