Se han publicado en Europa dos guías dirigidas a funcionarios judiciales, sobre usos de aplicaciones de Inteligencia Artificial generativa en sus labores.
Tales guías parten de una constatación: desde el lanzamiento público de ChatGPT en noviembre de 2022, se ha popularizado el uso de Chatbots de IA generativa, fenómeno que ha llegado también a los funcionarios judiciales. Sin embargo ¿todas las personas saben usar estas herramientas?
La primera guía, titulada «Inteligencia Artificial (IA): Orientación para los titulares de cargos judiciales», fue publicada el 12 de diciembre de 2023 en Reino Unido.
La segunda, «Utilización de la Inteligencia Artificial Generativa (IA) por los profesionales de la justicia en un contexto laboral», es una nota informativa elaborada por el Grupo de trabajo del CEPEJ sobre Ciberjusticia e Inteligencia Artificial de la Comisión Europea para la Eficacia de la Justicia, publicada con fecha 12 de febrero de 2024.
Ambas guías surgen en un contexto de rápido desarrollo de herramientas de IA generativa (”Chatbots”) como ChatGPT, Claude, Bard y otras similares, y su creciente uso por funcionarios judiciales.
Desde el lanzamiento público de ChatGPT en noviembre de 2022, se ha popularizado el uso de Chatbots de IA generativa, fenómeno que ha llegado también a los funcionarios judiciales.
Tener cuentas personales en aplicaciones de IA ha pasado a ser común, como tener cuenta de Spotify. Sin embargo ¿todas las personas saben usar estas herramientas?
El objetivo de ambas guías es ofrecer orientaciones preliminares a jueces y otros profesionales de la justicia sobre las posibilidades y los riesgos del uso de estas tecnologías emergentes en el desempeño de sus funciones.
I. Herramientas abiertas de IA generativa y su aplicación en la justicia
Según las guías europeas analizadas, la IA generativa se refiere a sistemas informáticos capaces de generar nuevos contenidos, incluyendo texto, imágenes, sonidos y código, a partir de instrucciones en lenguaje natural. Estos sistemas, entrenados con enormes cantidades de datos, funcionan detectando patrones y prediciendo las palabras o elementos más probables para producir respuestas coherentes, aunque no necesariamente correctas o verdaderas.
En el ámbito judicial, algunas potenciales aplicaciones de la IA generativa serían:
- Generación de borradores de textos legales
- Resúmenes automatizados de documentos
- Traducción de textos jurídicos
- Análisis semántico y detección de opiniones
- Minería de textos y acceso a contenidos
La IA generativa parece ofrecer buenos resultados en tareas relativamente acotadas, pero presenta importantes limitaciones y riesgos que deben tenerse en cuenta, como veremos más adelante.
II. Usos posibles o permitidos de aplicaciones de IA generativa
Las guías de Reino Unido y la UE no prohíben el uso de aplicaciones de IA generativa por parte de los funcionarios judiciales, pero sí establecen condiciones y límites para un uso adecuado y responsable.
Ambas guías destacan la importancia de:
- Entender el funcionamiento básico y las limitaciones de estas herramientas antes de utilizarlas.
- Verificar siempre la exactitud y corrección de la información generada por la IA.
- Dar instrucciones claras y acotar los resultados esperados.
- Reformular los textos generados en caso de incorporarlos a documentos oficiales.
- Mantener el control de las decisiones y examinar críticamente las propuestas de la IA.
- Ser transparentes e indicar cuando un contenido ha sido generado mediante IA.
La guía del Reino Unido sugiere que las herramientas de IA pueden ser útiles para encontrar material que el usuario ya conoce como correcto pero no tiene a mano, a modo de confirmación no definitiva.
La guía de la UE agrega la preferencia por sistemas entrenados con datos certificados y oficiales.
III. Prevenciones y recomendaciones
Ambas guías enfatizan diversos riesgos y prevenciones en el uso de IA generativa:
- Posible generación de información inexacta, falsa o sesgada, por lo que siempre debe verificarse.
- Riesgo de divulgación de datos sensibles o confidenciales al ingresar prompts, por lo que sólo debe introducirse información pública, y proteger los datos personales.
- Advierten sobre la falta de referencias de los Chatbots sobre el origen de la información y posibles infracciones de propiedad intelectual.
- Variabilidad en las respuestas ante preguntas idénticas.
- Inestabilidad en tiempos de respuesta que puede afectar procesos judiciales.
- Exageración de sesgos cognitivos humanos en la interacción con la IA.
Frente a estos riesgos, ambas guías recomiendan no utilizar Chatbots de IA generativa cuando:
- No se puede evaluar la exactitud e imparcialidad del resultado.
- Se requiere ingresar datos personales, confidenciales o protegidos.
- Se necesita saber cómo se generó la respuesta.
IV. Conclusiones
Del análisis de las guías de Reino Unido y la Unión Europea sobre uso de IA generativa por funcionarios judiciales, se desprende que ambas reconocen las potenciales aplicaciones de esta tecnología en el ámbito de la justicia, con prevenciones.
Ambas guías se enfocan en delimitar cuidadosamente los usos idóneos, enfatizando la importancia de entender sus limitaciones, verificar sus resultados, introducir sólo información pública, proteger datos personales, y mantener el control humano de las decisiones.
En este sentido, las guías analizadas no rechazan el uso de IA generativa, pero sí acotan sus usos para escenarios donde su aplicación resulte segura, confiable y consistente con los deberes de integridad y protección de la información propios de la función judicial.
Al seguir estas recomendaciones, los funcionarios judiciales podrán aprovechar los beneficios de la IA generativa como herramienta de apoyo, sin comprometer la calidad, imparcialidad y responsabilidad de su labor.
DOCUMENTOS en PDF:
CE-2024-USE-OF-GENERATIVE-IA-BY-JUDICIAL-PROFESSIONALS
TRADUCCIONES AL ESPAÑOL (No oficiales)