{"id":468,"date":"2024-05-18T22:07:41","date_gmt":"2024-05-18T22:07:41","guid":{"rendered":"https:\/\/campusvirtual.net\/escritos\/?p=468"},"modified":"2024-05-27T22:13:33","modified_gmt":"2024-05-27T22:13:33","slug":"convenio-marco-ia","status":"publish","type":"post","link":"https:\/\/campusvirtual.net\/escritos\/2024\/05\/18\/convenio-marco-ia\/","title":{"rendered":"Uni\u00f3n Europea: Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho"},"content":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-469\" src=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/05\/consejo-ue.png\" alt=\"\" width=\"589\" height=\"357\" srcset=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/05\/consejo-ue.png 589w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/05\/consejo-ue-300x182.png 300w\" sizes=\"auto, (max-width: 589px) 100vw, 589px\" \/><\/p>\n<p>&nbsp;<\/p>\n<p>V\u00edctor Toledo (18\/05\/2024)<\/p>\n<p>El Consejo de la Uni\u00f3n Europea dio un paso importante hacia la regulaci\u00f3n internacional de la inteligencia artificial (IA) el 17 de mayo de 2024 al aprobar el <strong><em>Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho<\/em><\/strong>. Es el primer \u00a0tratado internacional en materia de IA.<\/p>\n<p>El Convenio Marco tiene como objetivo garantizar que el desarrollo y uso de la IA se lleve a cabo de manera responsable y \u00e9tica, respetando los derechos humanos, la democracia y el Estado de Derecho, junto con propiciar el progreso tecnol\u00f3gico y la innovaci\u00f3n.<\/p>\n<p>El tratado fue elaborado por los 46 estados miembros del Consejo de Europa en colaboraci\u00f3n con un amplio grupo de actores internacionales. Participaron como observadores Canad\u00e1, Jap\u00f3n, M\u00e9xico, la Santa Sede y los Estados Unidos de Am\u00e9rica, junto con la Uni\u00f3n Europea. Adem\u00e1s, un n\u00famero significativo de Estados no miembros, incluyendo Australia, Argentina, Costa Rica, Israel, Per\u00fa y Uruguay, contribuyeron al proceso.<\/p>\n<p>El Convenio Marco se abrir\u00e1 a la firma en Vilna (Lituania) el 5 de septiembre de 2024, y puede ser ratificado por cualquier estado del mundo, no solo de la Uni\u00f3n Europea.<\/p>\n<h2>PRINCIPALES CONTENIDOS<\/h2>\n<p>A continuaci\u00f3n se presenta una rese\u00f1a de los principales contenidos del Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho.<\/p>\n<blockquote><p><span style=\"color: #333399;\"><strong><em>Art\u00edculo 1 \u2013 Objeto y fin<\/em><\/strong><\/span><br \/>\n<span style=\"color: #333399;\"><strong><em>1. Las disposiciones del presente Convenio tienen como objetivo garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho.<\/em><\/strong><\/span><\/p><\/blockquote>\n<p>&nbsp;<\/p>\n<p><strong>Objetivo principal:<\/strong><\/p>\n<ul>\n<li>Garantizar que el desarrollo y uso de la IA respete los derechos humanos, el Estado de derecho y los principios democr\u00e1ticos, buscando un equilibrio entre el progreso tecnol\u00f3gico y la protecci\u00f3n de valores fundamentales.<\/li>\n<\/ul>\n<p><strong>Alcance:<\/strong><\/p>\n<ul>\n<li>Abarca todo el ciclo de vida de los sistemas de IA: desde el dise\u00f1o y desarrollo, pasando por la implementaci\u00f3n y uso, hasta la eliminaci\u00f3n.<\/li>\n<li>El Convenio Marco cubre el uso de sistemas de IA por parte de autoridades p\u00fablicas (incluidos actores privados que act\u00faan en su nombre) y actores privados .<\/li>\n<\/ul>\n<p><strong>Enfoque:<\/strong><\/p>\n<ul>\n<li>Basado en el riesgo: exige una evaluaci\u00f3n exhaustiva y continua de las posibles consecuencias negativas de los sistemas de IA en cada etapa de su ciclo de vida.<\/li>\n<li>Promueve un desarrollo responsable de la IA, fomentando la innovaci\u00f3n al tiempo que se establecen salvaguardas para prevenir abusos y da\u00f1os.<\/li>\n<\/ul>\n<p><strong>Puntos clave:<\/strong><\/p>\n<ul>\n<li><strong>Transparencia y supervisi\u00f3n:<\/strong>\n<ul>\n<li>Establece requisitos de transparencia adaptados a contextos y riesgos espec\u00edficos, permitiendo comprender el funcionamiento de los sistemas de IA y sus posibles impactos.<\/li>\n<li>Obliga a la identificaci\u00f3n de contenido generado por IA, evitando la desinformaci\u00f3n y la manipulaci\u00f3n.<\/li>\n<li>Promueve la creaci\u00f3n de mecanismos de supervisi\u00f3n independientes para asegurar el cumplimiento del convenio.<\/li>\n<\/ul>\n<\/li>\n<li><strong>Mitigaci\u00f3n de riesgos:<\/strong>\n<ul>\n<li>Obliga a las partes a tomar medidas para prevenir y mitigar posibles riesgos, incluyendo la evaluaci\u00f3n de impacto, la implementaci\u00f3n de medidas de seguridad y la correcci\u00f3n de errores.<\/li>\n<li>Contempla la posibilidad de moratorias o prohibiciones en el uso de sistemas de IA cuyos riesgos sean incompatibles con los derechos humanos, el Estado de derecho o los principios democr\u00e1ticos.<\/li>\n<\/ul>\n<\/li>\n<li><strong>Rendici\u00f3n de cuentas y responsabilidad:<\/strong>\n<ul>\n<li>Establece mecanismos para garantizar la responsabilidad por impactos negativos de la IA, incluyendo la identificaci\u00f3n de responsables y la reparaci\u00f3n de da\u00f1os.<\/li>\n<li>Fomenta la creaci\u00f3n de sistemas de auditor\u00eda y control para asegurar la trazabilidad y la transparencia en el uso de la IA.<\/li>\n<\/ul>\n<\/li>\n<li><strong>Igualdad y no discriminaci\u00f3n:<\/strong>\n<ul>\n<li>Obliga a las partes a asegurar que la IA respete la igualdad y no se use para discriminar, garantizando un acceso equitativo a los beneficios de la tecnolog\u00eda.<\/li>\n<li>Promueve la inclusi\u00f3n y la diversidad en el desarrollo y uso de la IA, evitando sesgos y discriminaciones algor\u00edtmicas.<\/li>\n<\/ul>\n<\/li>\n<li><strong>Protecci\u00f3n de la democracia:<\/strong>\n<ul>\n<li>Busca prevenir el uso de la IA para socavar instituciones democr\u00e1ticas, como la manipulaci\u00f3n electoral, la supresi\u00f3n del voto o la restricci\u00f3n de libertades fundamentales.<\/li>\n<li>Promueve el uso responsable de la IA en el \u00e1mbito pol\u00edtico, fomentando la transparencia, la participaci\u00f3n ciudadana y el debate p\u00fablico informado.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<p><strong>Excepciones:<\/strong><\/p>\n<ul>\n<li>Se contemplan excepciones para actividades relacionadas con la seguridad nacional y la defensa, reconociendo la necesidad de proteger intereses vitales del Estado.<\/li>\n<li>Sin embargo, se establece la obligaci\u00f3n de respetar el derecho internacional y los principios democr\u00e1ticos, incluso en situaciones excepcionales.<\/li>\n<\/ul>\n<p><strong>Implementaci\u00f3n:<\/strong><\/p>\n<ul>\n<li>Se establece un mecanismo de seguimiento a trav\u00e9s de una Conferencia de las Partes, responsable de supervisar la implementaci\u00f3n del convenio y promover su desarrollo.<\/li>\n<li>Se insta a las partes a crear mecanismos de supervisi\u00f3n independientes en cada pa\u00eds para asegurar el cumplimiento del convenio a nivel nacional.<\/li>\n<\/ul>\n<p><strong>Importancia:<\/strong><\/p>\n<ul>\n<li>Establece un marco global para un desarrollo responsable y \u00e9tico de la IA, marcando un hito en la gobernanza de esta tecnolog\u00eda transformadora.<\/li>\n<li>Busca asegurar que la IA se utilice para el beneficio de la humanidad, respetando los derechos fundamentales y promoviendo sociedades justas, equitativas y democr\u00e1ticas.<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p>TEXTO del CONVENIO MARCO SOBRE INTELIGENCIA ARTIFICIAL, DERECHOS HUMANOS, DEMOCRACIA Y ESTADO DE DERECHO [Traducci\u00f3n no oficial]<\/p>\n\n<p>&nbsp;<\/p>\n<p>ORIGINAL EN INGL\u00c9S<\/p>\n\n<p>&nbsp;<\/p>\n<p>Link al reporte de la sesi\u00f3n:\u00a0 <a href=\"https:\/\/search.coe.int\/cm\/Pages\/result_details.aspx?ObjectId=0900001680afb122\" target=\"_blank\" rel=\"noopener\">https:\/\/search.coe.int\/cm\/Pages\/result_details.aspx?ObjectId=0900001680afb122<\/a><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>&nbsp; V\u00edctor Toledo (18\/05\/2024) El Consejo de la Uni\u00f3n Europea dio un paso importante hacia la regulaci\u00f3n internacional de la inteligencia artificial (IA) el 17 de mayo de 2024 al aprobar el Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado&hellip;<span class=\"read-more\"><a href=\"https:\/\/campusvirtual.net\/escritos\/2024\/05\/18\/convenio-marco-ia\/\">Read More &raquo;<\/a><\/span><\/p>\n","protected":false},"author":2,"featured_media":473,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[40],"tags":[42,41],"class_list":["post-468","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia-regulacion","tag-tratados-ia","tag-union-europea"],"_links":{"self":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts\/468","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/comments?post=468"}],"version-history":[{"count":4,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts\/468\/revisions"}],"predecessor-version":[{"id":516,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts\/468\/revisions\/516"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/media\/473"}],"wp:attachment":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/media?parent=468"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/categories?post=468"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/tags?post=468"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}