Sabotaje Algorítmico en los Tribunales: El primer caso de "Prompt Injection" en una demanda judicial

Prosecretaría de Políticas Digitales FCJyS-UNLP
14 may
3 Min. de lectura

La integración de la inteligencia artificial (IA) en el Poder Judicial ha abierto una nueva dimensión en la estrategia procesal, pero también en las prácticas de mala fe. Un reciente e inédito fallo de la Justicia del Trabajo de Brasil analiza cómo el uso de texto oculto para manipular algoritmos judiciales constituye un grave atentado a la dignidad de la justicia,.

1) Breve Resumen del Caso

En el marco de una reclamación laboral por reconocimiento de vínculo y verbas rescisórias en Parauapebas, el magistrado detectó una conducta de extrema gravedad al procesar la demanda,. Las abogadas de la parte actora insertaron en la petición inicial un texto en fuente blanca sobre fondo blanco —invisible para el ojo humano— con instrucciones específicas dirigidas a sistemas de IA. El comando oculto ordenaba a cualquier IA que procesara el documento que contestara la petición de forma superficial y no impugnara los documentos, sin importar las órdenes que recibiera del usuario humano.

2) Juzgado o Tribunal Interviniente

La resolución fue dictada por la 3ª Vara do Trabalho de Parauapebas, perteneciente al Tribunal Regional do Trabalho da 8ª Região (TRT-8), Brasil.

3) Decisión Tomada

El magistrado Luiz Carlos de Araujo Santos Junior resolvió:

Sancionar por mala fe: Reconocer la práctica de un acto atentatorio a la dignidad de la justicia por parte de las abogadas firmantes,.
Multa Solidaria: Imponer a las letradas una multa del 10% sobre el valor de la causa (aproximadamente R$ 84.000), a ser pagada de forma solidaria y revertida en favor de la Unión.
Denuncia ante Órganos Colegiados: Expedir oficios a la Orden de Abogados de Brasil (OAB) y a la Corregidoría para que se inicien los procesos disciplinarios correspondientes.
Fallo sobre el fondo: Respecto a la cuestión laboral, se declaró la existencia del vínculo y se condenó al demandado al pago de las indemnizaciones solicitadas debido a su rebeldía procesal.

4) Temática Novedosa en Relación a la Tecnología

El fallo introduce el concepto técnico de Prompt Injection en el ámbito del derecho procesal. Esta técnica consiste en insertar instrucciones deliberadas y ocultas en un documento para manipular el resultado de sistemas de IA generativa (como el sistema "Galileu" utilizado por este tribunal) que procesan el texto,.

Lo novedoso reside en que:

Sabotaje Institucional: El juez califica la conducta no solo como una irregularidad, sino como un "ataque a la credibilidad de las herramientas institucionales" y un intento de sabotaje al sistema judicial,.
Invisibilidad Tecnológica: Se resalta que el engaño está diseñado para ser detectado solo mediante una auditoría técnica (cambio de color de fuente), ya que para el lector humano el documento parece normal.
Responsabilidad del "Prompt": El tribunal determina que la responsabilidad de estas instrucciones ocultas recae exclusivamente en el abogado como director técnico de la pieza, y no en el cliente, quien carece del conocimiento para tal manipulación.

5) Tres Preguntas a Modo de Reflexión

Ante la masificación de herramientas de IA en los juzgados, ¿es necesario implementar auditorías automáticas obligatorias para detectar "comandos ocultos" en cada escrito presentado?
¿Debería el uso de prompt injection ser tipificado como un delito informático específico o basta con las sanciones de mala fe procesal tradicionales?
¿Cómo afectará esta "desconfianza tecnológica" a la celeridad procesal si los jueces deben ahora verificar la integridad técnica del código invisible de los documentos?