Jurisprudencia y Algoritmos: El Riesgo de las "Alucinaciones" en la Profesión Legal

Prosecretaría de Políticas Digitales FCJyS-UNLP
hace 20 horas
3 Min. de lectura

El avance de la tecnología en el ámbito judicial no solo trae eficiencia, sino también nuevos riesgos procesales. Un reciente fallo de la Cámara de Apelaciones de General Roca pone el foco en una problemática creciente: el uso de inteligencia artificial generativa (IAGen) para la redacción de escritos judiciales y la invención de precedentes inexistentes.

1) Breve Resumen del Caso

El proceso se originó a raíz de un accidente de tránsito ocurrido el 31 de julio de 2020, donde la actora, quien circulaba como acompañante en una motocicleta, demandó al conductor de un automóvil por los daños y perjuicios sufridos tras una colisión. La sentencia de primera instancia rechazó la demanda al considerar que el conductor de la motocicleta fue el responsable exclusivo del siniestro, basándose en la escasez probatoria y en las constancias de la causa penal. La actora apeló, alegando una errónea valoración del derecho (responsabilidad objetiva), la inversión de la carga de la prueba y la insuficiencia de la pericia mecánica.

2) Juzgado o Tribunal Interviniente

Intervino la Sala I de la Cámara de Apelaciones en lo Civil, Comercial, Familia, de Minería y Contencioso Administrativa de la Segunda Circunscripción Judicial, con asiento en la ciudad de General Roca, Provincia de Río Negro. El voto rector fue emitido por la Dra. Andrea Tormena, con la adhesión del Dr. Dino Daniel Maugeri.

3) Decisión Tomada

La Cámara resolvió rechazar el recurso de apelación y confirmar la sentencia de primera instancia. El tribunal determinó que la actora no logró acreditar la mecánica de los hechos descrita en su demanda y que, por el contrario, las pruebas (especialmente la planimetría penal) demostraron una ruptura del nexo causal debido al accionar del conductor de la motocicleta, quien realizó una maniobra de adelantamiento en un lugar prohibido. Además de la cuestión de fondo, el tribunal efectuó un llamado a la reflexión y de atención a las letradas de la parte actora por la cita de jurisprudencia inexistente.

4) Temática Novedosa en Relación a la Tecnología

Lo verdaderamente disruptivo de este fallo es la detección de "alucinaciones" de Inteligencia Artificial Generativa en la expresión de agravios. El tribunal advirtió que la parte recurrente citó cuatro precedentes del Superior Tribunal de Justicia de Río Negro (casos "Luzzi", "Sepúlveda", "Mellado" y "Castro") y un fallo de la CSJN que, tras un control exhaustivo en buscadores oficiales y consultas al Centro de Documentación Jurídica, resultaron ser inexistentes o no guardar relación con el caso.

La jueza Tormena destacó puntos fundamentales sobre la integración de la tecnología en la abogacía:

Responsabilidad indelegable: El uso de herramientas de IAGen como auxiliares no dispensa al profesional del control humano sobre el contenido.
Marco Normativo: Se recordó la vigencia de la Acordada STJ N° 22/2025 (y la 15/24), que extiende el “Protocolo de Buenas Prácticas para el uso de Inteligencia Artificial Generativa” a los auxiliares externos del Poder Judicial.
Sanciones: El tribunal advirtió que el uso inadecuado de estas herramientas puede dar lugar a sanciones correctivas según la Ley Orgánica del Poder Judicial y el Código Procesal.

5) Tres Preguntas a Modo de Reflexión

1. ¿Hasta qué punto la eficiencia de la IA justifica el riesgo de comprometer la buena fe procesal al presentar precedentes "alucinados"?

2. ¿Deberían los colegios de abogados implementar certificaciones obligatorias en ética digital para el uso de herramientas generativas?

3. Ante la facilidad de generar textos jurídicos complejos con un solo clic, ¿cómo se redefinirá el valor del "control humano" en la labor del abogado del futuro?

Boletin fallo AM FA

0:00