La Ética del Algoritmo: Cuando la Inteligencia Artificial Judicial Cita Normas Inexistentes

Prosecretaría de Políticas Digitales FCJyS-UNLP
20 nov
4 Min. de lectura

La implementación de la Inteligencia Artificial (IA) en la práctica jurídica promete eficiencia, pero también introduce riesgos éticos y técnicos. Un reciente pronunciamiento judicial en Salta, Argentina, puso en el foco la delgada línea entre la optimización profesional y la falta de control técnico, al detectar graves falencias en un recurso de casación que evidenciaban el uso de software sin la debida revisión.

1) Breve Resumen del Caso

El caso se originó a partir de un Recurso de Casación interpuesto por la defensa técnica de un imputado en una causa por abuso sexual gravemente ultrajante. El recurso se dirigía contra una resolución previa que había rechazado por extemporánea (fuera de tiempo) la oposición de la defensa al requerimiento fiscal de elevación de la causa a juicio.

La defensa argumentó que el plazo legal de seis días (Art. 435 CPP Salta) debía contarse desde la notificación al imputado (21 de abril de 2025) y no desde la notificación al defensor (8 de abril de 2025). Alegaban que la interpretación del juzgado violaba el derecho de defensa en juicio.

2) Juzgado o Tribunal Interviniente

La resolución fue dictada en Salta el 26 de junio de 2025.

El cuerpo judicial actuante estaba resolviendo la admisibilidad del recurso de casación. Este tribunal analizó la procedencia del recurso de casación en referencia a la causa GAR-183978/23.

3) Decisión Tomada )

Peticiones Presentadas por la Defensa:

El defensor solicitó que se tuviera por interpuesto el recurso de casación y que, oportunamente, se revocara la resolución que rechazó por extemporánea la oposición a la elevación a juicio. Esto permitiría al juzgado analizar los planteos sustanciales de la defensa, incluyendo la solicitud de sobreseimiento (Art. 299 y 301 CPP Salta) y/o la nulidad parcial del requerimiento fiscal (Art. 167 CPP Salta).

Decisión Tomada por el Tribunal:

El tribunal resolvió DECLARAR INADMISIBLE EL RECURSO DE CASACIÓN.

Las razones para la inadmisibilidad fueron triples:

Improcedencia Legal: El auto de elevación a juicio es una decisión expresamente declarada como inapelable por el artículo 436 del Código Procesal Penal de la Provincia de Salta, salvo que se disponga el sobreseimiento, lo cual no ocurrió en este caso.
Extemporaneidad Manifiesta: El tribunal determinó que, incluso bajo la hipótesis más favorable para la defensa (contando el plazo desde la notificación al imputado el 21 de abril de 2025), el plazo vencía el 30 de abril de 2025. La presentación realizada el 15 de mayo de 2025 excedió el término legal en doce días hábiles, lo que la hacía manifiestamente extemporánea.
Falta de Rigor Técnico: El tribunal advirtió que el escrito contenía referencias normativas ajenas al ordenamiento procesal de Salta. Se citaron artículos (299, 301, 167, 351 del CPP Salta) con contenido que no se correspondía con el texto real de esas disposiciones; por ejemplo, el artículo 351, citado para fundar la oposición a juicio, en realidad versa sobre los honorarios de los peritos.

Adicionalmente, el tribunal INTIMÓ al letrado a acompañar los antecedentes jurisprudenciales citados, con amenaza de dar intervención al Tribunal de Ética del Colegio de Abogados.

4) Temática Novedosa en Relación a la Tecnología

La temática más relevante en relación con la tecnología y el derecho en este fallo es el uso irresponsable de herramientas de Inteligencia Artificial (IA) o modelos prearmados para la redacción de escritos judiciales.

El tribunal observó omisiones evidentes en el escrito, como las expresiones “(COMPLETAR)” y “(IDENTIFICAR PRUEBA)”, lo que permitió inferir que se trataba de un modelo prearmado o generado mediante IA sin la debida revisión profesional posterior.

El fallo establece una posición clara respecto al uso de la IA en la abogacía:

Utilidad Reconocida: No resulta "condenable" la utilización de IA o plantillas para optimizar tiempos y estandarizar estructuras formales.
El Riesgo Central: El verdadero problema radica en la falta de análisis jurídico riguroso y criterio profesional. Es sabido que algunos modelos de IA pueden generar contenido inexacto, parcial o incluso ficticio, particularmente en lo que respecta a referencias normativas o jurisprudenciales.
Responsabilidad Ética: El riesgo más grave es la invocación de jurisprudencia inexistente para obtener resoluciones favorables, lo que configura un "grave quebrantamiento ético" y "reduce el proceso judicial a sus propios intereses".

El fallo subraya que lo relevante no es el origen del texto, sino la actitud responsable del abogado respecto del contenido que suscribe y presenta ante la jurisdicción.

5) Tres Preguntas a Modo de Reflexión

1. Carga de Verificación Ética: Dado que la IA puede generar jurisprudencia o normativa ficticia, ¿debe el sistema judicial establecer una carga de verificación explícita para los abogados que utilizan estas herramientas, o es la verificación de las fuentes una obligación profesional inherente e ineludible, independientemente de la tecnología utilizada?

2. Formación Profesional y Tecnología: ¿Cómo deben las facultades de derecho y los colegios profesionales adecuar la formación y la ética profesional para garantizar que los futuros abogados utilicen las herramientas de IA como un apoyo para la eficiencia y no como un sustituto del análisis jurídico crítico y la responsabilidad por el contenido?

3. Arbitrariedad Tecnológica: Si un tribunal rechaza un recurso por falta de fundamentación y, a la vez, advierte que la defensa incurrió en una citación errónea de artículos debido al aparente uso descuidado de IA, ¿podría la mera detección de un texto generado por IA sin control suficiente constituir, per se, un indicio de arbitrariedad técnica o falta de fundamentación profesional?

Boletin fallo GAR

0:00