{"id":170,"date":"2024-01-14T06:16:12","date_gmt":"2024-01-14T06:16:12","guid":{"rendered":"https:\/\/campusvirtual.net\/escritos\/?p=170"},"modified":"2024-06-25T01:58:08","modified_gmt":"2024-06-25T01:58:08","slug":"directrices-europeas-sobre-usos-de-chatbots-de-ia-generativa-en-el-ambito-judicial","status":"publish","type":"post","link":"https:\/\/campusvirtual.net\/escritos\/2024\/01\/14\/directrices-europeas-sobre-usos-de-chatbots-de-ia-generativa-en-el-ambito-judicial\/","title":{"rendered":"Directrices europeas sobre usos de Chatbots de IA generativa en el \u00e1mbito judicial"},"content":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" class=\"alignnone size-full wp-image-182 aligncenter\" src=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/iajusticia.png\" alt=\"\" width=\"812\" height=\"466\" srcset=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/iajusticia.png 812w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/iajusticia-600x344.png 600w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/iajusticia-300x172.png 300w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/iajusticia-768x441.png 768w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/iajusticia-782x449.png 782w\" sizes=\"auto, (max-width: 812px) 100vw, 812px\" \/><\/p>\n<p>Se han publicado en Europa dos gu\u00edas dirigidas a funcionarios judiciales, sobre usos de aplicaciones de Inteligencia Artificial generativa en sus labores.<\/p>\n<p>Tales gu\u00edas parten de una constataci\u00f3n: desde el lanzamiento p\u00fablico de ChatGPT en noviembre de 2022, se ha popularizado el uso de Chatbots de IA generativa, fen\u00f3meno que ha llegado tambi\u00e9n a los funcionarios judiciales. Sin embargo \u00bftodas las personas saben usar estas herramientas?<\/p>\n<p>La primera gu\u00eda, titulada <em><strong>\u00abInteligencia Artificial (IA): Orientaci\u00f3n para los titulares de cargos judiciales\u00bb<\/strong><\/em>, fue publicada el 12 de diciembre de 2023 en Reino Unido.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter wp-image-329\" src=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/guia-ru.png\" alt=\"\" width=\"431\" height=\"603\" srcset=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/guia-ru.png 639w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/guia-ru-600x839.png 600w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/guia-ru-214x300.png 214w\" sizes=\"auto, (max-width: 431px) 100vw, 431px\" \/><\/p>\n<p>La segunda, <em><strong>\u00abUtilizaci\u00f3n de la Inteligencia Artificial Generativa (IA) por los profesionales de la justicia en un contexto laboral\u00bb<\/strong><\/em>, es una nota informativa elaborada por el Grupo de trabajo del CEPEJ sobre Ciberjusticia e Inteligencia Artificial de la Comisi\u00f3n Europea para la Eficacia de la Justicia, publicada con fecha 12 de febrero de 2024.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter wp-image-330\" src=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/guia-consejo-europa.png\" alt=\"\" width=\"443\" height=\"518\" srcset=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/guia-consejo-europa.png 623w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/guia-consejo-europa-600x702.png 600w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/guia-consejo-europa-256x300.png 256w\" sizes=\"auto, (max-width: 443px) 100vw, 443px\" \/><\/p>\n<p><strong>Ambas gu\u00edas surgen en un contexto de r\u00e1pido desarrollo de herramientas de IA generativa (\u201dChatbots\u201d) como ChatGPT, Claude, Bard y otras similares, y su creciente uso por funcionarios judiciales<\/strong>.<\/p>\n<p>Desde el lanzamiento p\u00fablico de ChatGPT en noviembre de 2022, se ha popularizado el uso de Chatbots de IA generativa, fen\u00f3meno que ha llegado tambi\u00e9n a los funcionarios judiciales.<\/p>\n<p>Tener cuentas personales en aplicaciones de IA ha pasado a ser com\u00fan, como tener cuenta de Spotify. Sin embargo \u00bftodas las personas saben usar estas herramientas?<\/p>\n<p><strong>El objetivo de ambas gu\u00edas es ofrecer orientaciones preliminares a jueces y otros profesionales de la justicia sobre las posibilidades y los riesgos del uso de estas tecnolog\u00edas emergentes en el desempe\u00f1o de sus funciones<\/strong>.<\/p>\n<h2>I. Herramientas abiertas de IA generativa y su aplicaci\u00f3n en la justicia<\/h2>\n<p>Seg\u00fan las gu\u00edas europeas analizadas, la IA generativa se refiere a sistemas inform\u00e1ticos capaces de generar nuevos contenidos, incluyendo texto, im\u00e1genes, sonidos y c\u00f3digo, a partir de instrucciones en lenguaje natural. Estos sistemas, entrenados con enormes cantidades de datos, funcionan detectando patrones y prediciendo las palabras o elementos m\u00e1s probables para producir respuestas coherentes, aunque no necesariamente correctas o verdaderas.<\/p>\n<p><strong>En el \u00e1mbito judicial, algunas potenciales aplicaciones de la IA generativa ser\u00edan:<\/strong><\/p>\n<ul>\n<li>Generaci\u00f3n de borradores de textos legales<\/li>\n<li>Res\u00famenes automatizados de documentos<\/li>\n<li>Traducci\u00f3n de textos jur\u00eddicos<\/li>\n<li>An\u00e1lisis sem\u00e1ntico y detecci\u00f3n de opiniones<\/li>\n<li>Miner\u00eda de textos y acceso a contenidos<\/li>\n<\/ul>\n<p>La IA generativa parece ofrecer buenos resultados en tareas relativamente acotadas, pero presenta importantes limitaciones y riesgos que deben tenerse en cuenta, como veremos m\u00e1s adelante.<\/p>\n<h2>II. Usos posibles o permitidos de aplicaciones de IA generativa<\/h2>\n<p>Las gu\u00edas de Reino Unido y la UE no proh\u00edben el uso de aplicaciones de IA generativa por parte de los funcionarios judiciales, pero s\u00ed establecen condiciones y l\u00edmites para un uso adecuado y responsable.<\/p>\n<p><strong>Ambas gu\u00edas destacan la importancia de:<\/strong><\/p>\n<ul>\n<li>Entender el funcionamiento b\u00e1sico y las limitaciones de estas herramientas antes de utilizarlas.<\/li>\n<li>Verificar siempre la exactitud y correcci\u00f3n de la informaci\u00f3n generada por la IA.<\/li>\n<li>Dar instrucciones claras y acotar los resultados esperados.<\/li>\n<li>Reformular los textos generados en caso de incorporarlos a documentos oficiales.<\/li>\n<li>Mantener el control de las decisiones y examinar cr\u00edticamente las propuestas de la IA.<\/li>\n<li>Ser transparentes e indicar cuando un contenido ha sido generado mediante IA.<\/li>\n<\/ul>\n<p>La gu\u00eda del Reino Unido sugiere que las herramientas de IA pueden ser \u00fatiles para encontrar material que el usuario ya conoce como correcto pero no tiene a mano, a modo de confirmaci\u00f3n no definitiva.<\/p>\n<p>La gu\u00eda de la UE agrega la preferencia por sistemas entrenados con datos certificados y oficiales.<\/p>\n<h2>III. Prevenciones y recomendaciones<\/h2>\n<p>Ambas gu\u00edas enfatizan diversos riesgos y prevenciones en el uso de IA generativa:<\/p>\n<ul>\n<li>Posible generaci\u00f3n de informaci\u00f3n inexacta, falsa o sesgada, por lo que siempre debe verificarse.<\/li>\n<li>Riesgo de divulgaci\u00f3n de datos sensibles o confidenciales al ingresar prompts, por lo que s\u00f3lo debe introducirse informaci\u00f3n p\u00fablica, y proteger los datos personales.<\/li>\n<li>Advierten sobre la falta de referencias de los Chatbots sobre el origen de la informaci\u00f3n y posibles infracciones de propiedad intelectual.<\/li>\n<li>Variabilidad en las respuestas ante preguntas id\u00e9nticas.<\/li>\n<li>Inestabilidad en tiempos de respuesta que puede afectar procesos judiciales.<\/li>\n<li>Exageraci\u00f3n de sesgos cognitivos humanos en la interacci\u00f3n con la IA.<\/li>\n<\/ul>\n<p>Frente a estos riesgos, ambas gu\u00edas recomiendan no utilizar Chatbots de IA generativa cuando:<\/p>\n<ul>\n<li>No se puede evaluar la exactitud e imparcialidad del resultado.<\/li>\n<li>Se requiere ingresar datos personales, confidenciales o protegidos.<\/li>\n<li>Se necesita saber c\u00f3mo se gener\u00f3 la respuesta.<\/li>\n<\/ul>\n<h2>IV. Conclusiones<\/h2>\n<p>Del an\u00e1lisis de las gu\u00edas de Reino Unido y la Uni\u00f3n Europea sobre uso de IA generativa por funcionarios judiciales, se desprende que ambas reconocen las potenciales aplicaciones de esta tecnolog\u00eda en el \u00e1mbito de la justicia, con prevenciones.<\/p>\n<p>Ambas gu\u00edas se enfocan en delimitar cuidadosamente los usos id\u00f3neos, enfatizando la importancia de entender sus limitaciones, verificar sus resultados, introducir s\u00f3lo informaci\u00f3n p\u00fablica, proteger datos personales, y mantener el control humano de las decisiones.<\/p>\n<p>En este sentido, las gu\u00edas analizadas no rechazan el uso de IA generativa, pero s\u00ed acotan sus usos para escenarios donde su aplicaci\u00f3n resulte segura, confiable y consistente con los deberes de integridad y protecci\u00f3n de la informaci\u00f3n propios de la funci\u00f3n judicial.<\/p>\n<p>Al seguir estas recomendaciones, los funcionarios judiciales podr\u00e1n aprovechar los beneficios de la IA generativa como herramienta de apoyo, sin comprometer la calidad, imparcialidad y responsabilidad de su labor.<\/p>\n<hr \/>\n\n<p>&nbsp;<\/p>\n\n<p>&nbsp;<\/p>\n<p>DOCUMENTOS en PDF:<\/p>\n<p><!-- notionvc: 462ec3bb-a21e-430e-a744-a51742659dd7 --><\/p>\n<p><!-- notionvc: 607e46c1-3df5-472d-8a1f-4a867577f0ee --><\/p>\n<p><a href=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/AI-Judicial-Guidance.pdf\">AI-Judicial-Guidance<\/a><\/p>\n<p><a href=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/CE-2024-USE-OF-GENERATIVE-IA-BY-JUDICIAL-PROFESSIONALS.pdf\">CE-2024-USE-OF-GENERATIVE-IA-BY-JUDICIAL-PROFESSIONALS<\/a><\/p>\n<p>&nbsp;<\/p>\n<p>TRADUCCIONES AL ESPA\u00d1OL (No oficiales)<\/p>\n<p><a href=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/AI-Judicial-Guidance-Traduccion.pdf\">AI-Judicial-Guidance-Traducci\u00f3n<\/a><\/p>\n<p><a href=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/04\/CE-2024-USE-OF-GENERATIVE-IA-TRADUCCION.pdf\">CE-2024-USE-OF-GENERATIVE-IA-TRADUCCI\u00d3N<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Se han publicado en Europa dos gu\u00edas dirigidas a funcionarios judiciales, sobre usos de aplicaciones de Inteligencia Artificial generativa en sus labores. Tales gu\u00edas parten de una constataci\u00f3n: desde el lanzamiento p\u00fablico de ChatGPT en noviembre de 2022, se ha popularizado el&hellip;<span class=\"read-more\"><a href=\"https:\/\/campusvirtual.net\/escritos\/2024\/01\/14\/directrices-europeas-sobre-usos-de-chatbots-de-ia-generativa-en-el-ambito-judicial\/\">Read More &raquo;<\/a><\/span><\/p>\n","protected":false},"author":2,"featured_media":182,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[44,29,28,27],"tags":[],"class_list":["post-170","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-directrices-iag-judicial","category-ia-guias","category-ia-y-justicia","category-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts\/170","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/comments?post=170"}],"version-history":[{"count":14,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts\/170\/revisions"}],"predecessor-version":[{"id":537,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts\/170\/revisions\/537"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/media\/182"}],"wp:attachment":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/media?parent=170"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/categories?post=170"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/tags?post=170"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}