Alucinaciones en la Corte de Mendoza: El deber de supervisión humana frente a la IA Generativa

Prosecretaría de Políticas Digitales FCJyS-UNLP
31 mar
2 Min. de lectura

La integración de la Inteligencia Artificial en el derecho ya no es una hipótesis, sino una realidad que está llegando a los máximos tribunales. Un reciente fallo de la Suprema Corte de Justicia de Mendoza enciende las alarmas sobre el uso irresponsable de modelos de lenguaje (LLM) y la aparición de "alucinaciones" jurisprudenciales en los escritos de los profesionales.

1) Breve Resumen del Caso

El caso se originó a partir de una demanda por daños y perjuicios interpuesta por el Sr. Julián Baños tras el robo de su vehículo en una playa de estacionamiento en la Ciudad de Mendoza. El actor demandó al Sr. Luca Porreta, alegando incumplimiento del deber de seguridad y guarda bajo el régimen de consumo. El demandado opuso la excepción de falta de legitimación pasiva, sosteniendo que él era solo un empleado y no el titular de la explotación comercial. Tras una sentencia de primera instancia que admitió la demanda, la Cámara de Apelaciones revocó el fallo al confirmar que el demandado no era el responsable legal del negocio. El actor llevó el caso a la instancia extraordinaria mediante un Recurso Extraordinario Provincial.

2) Juzgado o Tribunal Interviniente

Intervino el Colegio de Jueces de la Suprema Corte de Justicia de Mendoza, integrado por la Dra. María Teresa Day, el Dr. José V. Valerio y el Dr. Mario Daniel Adaro.

3) Decisión Tomada

El máximo tribunal provincial resolvió rechazar el Recurso Extraordinario Provincial, confirmando la sentencia de cámara que determinó la falta de legitimación pasiva del demandado. Sin embargo, la decisión incluyó una medida disciplinaria de alto impacto: un llamado de atención al letrado patrocinante del recurrente. El tribunal constató que el profesional incurrió en graves imprecisiones fácticas y, fundamentalmente, citó precedentes de la Corte Provincial y Nacional que resultaron ser inexistentes tras una exhaustiva búsqueda en registros oficiales.

4) Temática Novedosa en Relación a la Tecnología

Lo disruptivo de este fallo es el tratamiento jurídico de las "alucinaciones" de la Inteligencia Artificial Generativa (IAGen). La Corte advirtió que, si bien los modelos de lenguaje (LLM) aportan beneficios en la redacción, su uso debe ser ético, responsable y supervisado por humanos.

El fallo destaca dos visiones en pugna sobre la tecnología:

Voto mayoritario: Sostiene que la supervisión de los resultados de la IA es esencial e insoslayable y que el profesional asume responsabilidad directa por los errores o "alucinaciones" que estas herramientas arrojen.
Voto en disidencia (Dr. Adaro): Aunque coincidió en el rechazo del recurso, se opuso al llamado de atención argumentando que la cita de fallos inexistentes podría ser un simple error de tipeo y que no debe haber un "pre-juicio" contra la tecnología sin pruebas contundentes de su uso inadecuado, protegiendo así el "debido proceso digital".

5) Tres Preguntas a Modo de Reflexión

¿Es la cita de un fallo inexistente una falta ética per se, independientemente de si fue generado por una IA o por un error humano?
¿Cómo deben los tribunales equilibrar la promoción de la innovación tecnológica con la sanción de las "alucinaciones" algorítmicas?
Ante la opacidad de los algoritmos, ¿es el abogado el único garante de la veracidad de la información presentada ante un juez?