Citas "fantasma" y ética profesional: El límite de la tecnología en la Alzada de Neuquén.

Prosecretaría de Políticas Digitales FCJyS-UNLP
28 may
2 min de lectura

La digitalización de la justicia ha traído consigo herramientas de eficiencia, pero también riesgos procesales inéditos. Un reciente fallo de la Cámara de Apelaciones de Zapala pone el foco en la responsabilidad del abogado frente al uso de citas jurisprudenciales inexistentes, advirtiendo que la "alucinación" —sea algorítmica o humana— no tiene lugar en el estrado.

1) Breve Resumen del Caso

El proceso se originó en una demanda laboral por despido y cobro de haberes iniciada por Yoselin María José Almaza contra la firma Video Drome S.A.. Tras una sentencia de primera instancia que reconoció el vínculo laboral y condenó a la empresa al pago de las indemnizaciones, la demandada apeló. Sin embargo, al analizar el memorial de agravios, el tribunal de alzada detectó una irregularidad técnica de extrema gravedad: el abogado de la empresa fundó sus argumentos centrales en, al menos, cinco citas de fallos y precedentes del Tribunal Superior de Justicia de Neuquén y de la Corte Suprema de la Nación que resultaron ser completamente inexistentes o falsos en su contenido.

2) Juzgado o Tribunal Interviniente

La resolución fue dictada por la Sala I de la Cámara Provincial de Apelaciones en lo Civil, Comercial, Laboral, Minería y Familia, con sede en la ciudad de Zapala, provincia del Neuquén. El voto principal fue del Dr. Manuel Castañon López, con la adhesión del Dr. Pablo G. Furlotti.

3) Decisión Tomada

La Cámara resolvió:

Rechazar el recurso de apelación interpuesto por la demandada, confirmando la sentencia de primera instancia en todos sus términos.
Imponer las costas a la parte demandada vencida.
Sanción institucional: Disponer la remisión de copia de las actuaciones al Colegio de Abogados de Cutral Có para que evalúe la conducta ética del letrado de la demandada ante la utilización de citas falsas.

4) Temática Novedosa en Relación a la Tecnología

El fallo aborda el fenómeno de las "alucinaciones" de la Inteligencia Artificial (IA) y la responsabilidad del profesional en la era digital:

Resultado sobre el insumo: El tribunal determinó que es irrelevante si la cita falsa fue producto de un uso inadecuado de la IA generativa, de un "copie y pegue" sin control o de una invención dolosa; lo que importa es que el resultado es una afrenta al buen servicio de justicia.
Carga de verificación: Se reafirma que el profesional tiene el deber de garantizar la veracidad y buena fe de sus escritos. El uso de citas inventadas induce al engaño del tribunal y obliga a los jueces a invertir tiempo considerable en chequear la veracidad de párrafos inexistentes.
Ética y Transparencia: El fallo cita doctrina reciente sobre la "ilusión de la transparencia" y advierte que el uso de herramientas generativas no justifica desplazar la atención de la responsabilidad profesional hacia la tecnología utilizada.

5) Tres Preguntas a Modo de Reflexión

Ante la creciente integración de la IA en los estudios jurídicos, ¿debería ser obligatorio un disclosure o declaración de uso de herramientas generativas en los escritos judiciales?.
¿Es la "alucinación" tecnológica una nueva forma de temeridad y malicia procesal o debe tratarse únicamente como una falta ética profesional?.
¿Están los tribunales preparados para auditar la veracidad de la jurisprudencia en un escenario donde la generación de contenido falso es cada vez más convincente y masiva?