By | mayo 18, 2024

 

Víctor Toledo (18/05/2024)

El Consejo de la Unión Europea dio un paso importante hacia la regulación internacional de la inteligencia artificial (IA) el 17 de mayo de 2024 al aprobar el Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho. Es el primer  tratado internacional en materia de IA.

El Convenio Marco tiene como objetivo garantizar que el desarrollo y uso de la IA se lleve a cabo de manera responsable y ética, respetando los derechos humanos, la democracia y el Estado de Derecho, junto con propiciar el progreso tecnológico y la innovación.

El tratado fue elaborado por los 46 estados miembros del Consejo de Europa en colaboración con un amplio grupo de actores internacionales. Participaron como observadores Canadá, Japón, México, la Santa Sede y los Estados Unidos de América, junto con la Unión Europea. Además, un número significativo de Estados no miembros, incluyendo Australia, Argentina, Costa Rica, Israel, Perú y Uruguay, contribuyeron al proceso.

El Convenio Marco se abrirá a la firma en Vilna (Lituania) el 5 de septiembre de 2024, y puede ser ratificado por cualquier estado del mundo, no solo de la Unión Europea.

PRINCIPALES CONTENIDOS

A continuación se presenta una reseña de los principales contenidos del Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho.

Artículo 1 – Objeto y fin
1. Las disposiciones del presente Convenio tienen como objetivo garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho.

 

Objetivo principal:

  • Garantizar que el desarrollo y uso de la IA respete los derechos humanos, el Estado de derecho y los principios democráticos, buscando un equilibrio entre el progreso tecnológico y la protección de valores fundamentales.

Alcance:

  • Abarca todo el ciclo de vida de los sistemas de IA: desde el diseño y desarrollo, pasando por la implementación y uso, hasta la eliminación.
  • El Convenio Marco cubre el uso de sistemas de IA por parte de autoridades públicas (incluidos actores privados que actúan en su nombre) y actores privados .

Enfoque:

  • Basado en el riesgo: exige una evaluación exhaustiva y continua de las posibles consecuencias negativas de los sistemas de IA en cada etapa de su ciclo de vida.
  • Promueve un desarrollo responsable de la IA, fomentando la innovación al tiempo que se establecen salvaguardas para prevenir abusos y daños.

Puntos clave:

  • Transparencia y supervisión:
    • Establece requisitos de transparencia adaptados a contextos y riesgos específicos, permitiendo comprender el funcionamiento de los sistemas de IA y sus posibles impactos.
    • Obliga a la identificación de contenido generado por IA, evitando la desinformación y la manipulación.
    • Promueve la creación de mecanismos de supervisión independientes para asegurar el cumplimiento del convenio.
  • Mitigación de riesgos:
    • Obliga a las partes a tomar medidas para prevenir y mitigar posibles riesgos, incluyendo la evaluación de impacto, la implementación de medidas de seguridad y la corrección de errores.
    • Contempla la posibilidad de moratorias o prohibiciones en el uso de sistemas de IA cuyos riesgos sean incompatibles con los derechos humanos, el Estado de derecho o los principios democráticos.
  • Rendición de cuentas y responsabilidad:
    • Establece mecanismos para garantizar la responsabilidad por impactos negativos de la IA, incluyendo la identificación de responsables y la reparación de daños.
    • Fomenta la creación de sistemas de auditoría y control para asegurar la trazabilidad y la transparencia en el uso de la IA.
  • Igualdad y no discriminación:
    • Obliga a las partes a asegurar que la IA respete la igualdad y no se use para discriminar, garantizando un acceso equitativo a los beneficios de la tecnología.
    • Promueve la inclusión y la diversidad en el desarrollo y uso de la IA, evitando sesgos y discriminaciones algorítmicas.
  • Protección de la democracia:
    • Busca prevenir el uso de la IA para socavar instituciones democráticas, como la manipulación electoral, la supresión del voto o la restricción de libertades fundamentales.
    • Promueve el uso responsable de la IA en el ámbito político, fomentando la transparencia, la participación ciudadana y el debate público informado.

Excepciones:

  • Se contemplan excepciones para actividades relacionadas con la seguridad nacional y la defensa, reconociendo la necesidad de proteger intereses vitales del Estado.
  • Sin embargo, se establece la obligación de respetar el derecho internacional y los principios democráticos, incluso en situaciones excepcionales.

Implementación:

  • Se establece un mecanismo de seguimiento a través de una Conferencia de las Partes, responsable de supervisar la implementación del convenio y promover su desarrollo.
  • Se insta a las partes a crear mecanismos de supervisión independientes en cada país para asegurar el cumplimiento del convenio a nivel nacional.

Importancia:

  • Establece un marco global para un desarrollo responsable y ético de la IA, marcando un hito en la gobernanza de esta tecnología transformadora.
  • Busca asegurar que la IA se utilice para el beneficio de la humanidad, respetando los derechos fundamentales y promoviendo sociedades justas, equitativas y democráticas.

 

TEXTO del CONVENIO MARCO SOBRE INTELIGENCIA ARTIFICIAL, DERECHOS HUMANOS, DEMOCRACIA Y ESTADO DE DERECHO [Traducción no oficial]

 

ORIGINAL EN INGLÉS

 

Link al reporte de la sesión:  https://search.coe.int/cm/Pages/result_details.aspx?ObjectId=0900001680afb122