¿Justicia Algorítmica o Humana? El caso del Juez cuya cuenta fue suspendida por la IA de Google
- Prosecretaría de Políticas Digitales FCJyS-UNLP
- 30 abr
- 3 Min. de lectura
En un mundo donde la nube es la nueva oficina, la suspensión de una cuenta de Google puede equivaler a una "muerte civil" profesional. Un reciente fallo del fuero Civil y Comercial Federal analiza la tensión entre las políticas de tolerancia cero de las Big Tech contra el abuso infantil y el ejercicio de la magistratura, en un caso donde un algoritmo no pudo (o no quiso) distinguir entre un delincuente y un juez cumpliendo su deber.
1) Breve Resumen del Caso
El Dr. A. L., Juez de Cámara en Tierra del Fuego, sufrió la suspensión total de su cuenta de Google y servicios asociados (Gmail, Drive, Calendar) en abril de 2025. El sistema automatizado de Google detectó material de abuso sexual infantil (CSAM) en su nube. Sin embargo, dicho material era en realidad evidencia digital de una causa penal que el magistrado había instruido en 2016. Los archivos se habían alojado automáticamente en su computadora institucional y, posteriormente, se cargaron en bloque a su Drive personal como parte de un respaldo de toda su documentación laboral, práctica sugerida por el propio Poder Judicial local para facilitar el trabajo remoto.
Google reportó el hallazgo al National Center for Missing and Exploited Children (NCMEC), lo que derivó en una causa penal en Argentina contra el juez. Tras demostrarse el origen legítimo y judicial de los archivos, el Dr. L. fue sobreseído de forma definitiva por "inexistencia de delito". Ante la negativa de Google de restituirle la cuenta, el magistrado inició una demanda por daños y solicitó una medida cautelar innovativa.
2) Juzgado o Tribunal Interviniente
La resolución fue dictada por el Juzgado Civil y Comercial Federal N° 2 de la Capital Federal, bajo la firma del Dr. Marcelo Bruno dos Santos.
3) Decisión Tomada
El magistrado resolvió hacer lugar parcialmente a la medida cautelar innovativa. En su decisión:
Ordenó a Google LLC restituir al actor el acceso a su cuenta y a todos los servicios vinculados en un plazo de tres días.
Estableció una excepción clave: el material identificado como CSAM debe permanecer inaccesible para el usuario, ya que el juez ya no interviene en esa causa y no existe un interés legítimo para que dicho material resida en una plataforma comercial pública.
Ordenó a Google mantener la preservación íntegra de todos los datos y constancias de la cuenta hasta que se dicte sentencia definitiva para asegurar la prueba.
Rechazó la petición de prohibir a Google cualquier gestión futura de la cuenta por considerarla una pretensión excesiva que afectaría las facultades contractuales legítimas de la empresa ante nuevas infracciones.
4) Temática Novedosa en Relación a la Tecnología
El fallo resulta disruptivo por abordar la falibilidad de los procesos automatizados de moderación de contenidos y el concepto de "contexto humano".
Algoritmo vs. Función Pública: El tribunal destacó que Google contaba con información (como los nombres de los directorios que hacían referencia a causas judiciales y reportes antiguos) que sugería un origen legítimo, pero su proceso automatizado la ignoró y calificó la conducta del juez como "maliciosa".
La Nube como herramienta de Estado: Se analiza el riesgo de utilizar nubes comerciales para el flujo de trabajo judicial. El fallo reconoce que, si bien Google Drive no es un repositorio oficial de evidencia, la realidad del teletrabajo y las directrices institucionales empujaron al magistrado a este entorno.
Conflictos de Leyes Transnacionales: Se debatió la aplicación de la ley federal de EE. UU. (que obliga a reportar hallazgos de CSAM) frente a las sentencias de sobreseimiento locales, concluyendo que el cumplimiento de una norma extranjera no puede ser óbice para reconocer la apariencia de buen derecho del actor en Argentina.
5) Tres Preguntas a Modo de Reflexión
¿Es aceptable que una plataforma global aplique sanciones irreversibles mediante IA sin permitir una revisión humana efectiva que comprenda el contexto institucional del usuario?
Ante el fomento del trabajo remoto, ¿qué responsabilidad asumen los organismos públicos al sugerir el uso de cuentas personales y nubes comerciales para gestionar información sensible o evidencia criminal?
¿Cómo equilibramos la necesaria lucha internacional contra la pornografía infantil con la protección del derecho a la "vida digital" y la integridad reputacional de los ciudadanos frente a los falsos positivos algorítmicos?
Acceder al fallo en Diariojudicial aquí
Nota: Contenido generado utilizando NotebookLM
Comentarios