Víctor Toledo
16/05/2024
¿La Inteligencia Artificial fortalecerá las instituciones democráticas o las pondrá en jaque?
Esta es la pregunta central del nuevo informe de la UNESCO, «Inteligencia artificial y democracia«. El documento explora las complejas relaciones entre la IA y la democracia, analizando tanto las promesas como las amenazas que esta tecnología representa para el futuro de las sociedades.
Por un lado, la IA ofrece herramientas poderosas para mejorar la participación ciudadana, la transparencia y la eficiencia en la toma de decisiones. Sin embargo, la IA también puede ser utilizada para manipular la opinión pública, erosionar la privacidad y concentrar el poder en manos de unos pocos. La desinformación, la vigilancia masiva y la discriminación algorítmica son solo algunos de los riesgos que debemos considerar.
El informe de la UNESCO nos invita a un debate urgente y necesario.
RESUMEN DEL INFORME
El informe se estructura en cinco secciones:
1. Introducción. Las expectativas y las decepciones de la digitalización en la dimensión democrática
Se presentan las expectativas iniciales sobre el impacto positivo de internet en la democracia, como la mayor accesibilidad a la información y la participación ciudadana. Sin embargo, también se señalan las decepciones, como el deterioro del espacio público y la opacidad de las decisiones algorítmicas. Se enfatiza la necesidad de un debate continuo y abierto sobre la IA y la democracia, reconociendo que la tecnología no es determinista ni neutral.
2. El nuevo espacio público digital: la conversación democrática
«La digitalización está implicando una modificación tan radical del espacio público que exige pensar desde categorías nuevas sobre cómo se realiza ese diálogo que tan necesario es para el desarrollo de la democracia.»
Se analiza la importancia de un espacio público digital de calidad para la democracia. Se argumenta que la proliferación de información, la desinformación y la polarización en línea pueden socavar la conversación democrática. Se proponen medidas para mejorar la calidad del espacio público digital, como la promoción de la alfabetización digital, la regulación de las plataformas en línea y la lucha contra la desinformación.
3. La democracia de los datos: la política del big data
«Gobernar ha sido siempre una tarea necesitada de datos.»
Esta sección examina el impacto del big data en la democracia. Se reconoce el valor de los datos para la gobernanza, pero también se plantean preocupaciones sobre la privacidad, la vigilancia y la discriminación algorítmica. Se aboga por una «democracia de datos» que garantice la transparencia, la rendición de cuentas y la participación ciudadana en la gobernanza de los datos.
4. La democracia como forma de decisión política: gobernanza algorítmica
«En gran medida gobernar es un acto algorítmico y lo será aún más, ya que una buena parte de las decisiones de gobierno son adoptadas por sistemas automatizados.»
Esta sección analiza la compatibilidad de la gobernanza algorítmica con los principios democráticos. Se argumenta que la automatización de la toma de decisiones puede erosionar la autonomía humana y la rendición de cuentas. Se proponen criterios para evaluar la legitimidad democrática de la gobernanza algorítmica, como la transparencia, la participación ciudadana y la posibilidad de impugnación.
5. Recomendaciones para la gobernanza democrática de la inteligencia artificial
Finalmente, se ofrecen recomendaciones para garantizar que la IA se desarrolle y utilice de manera compatible con los valores democráticos.
– Educación y concienciación: Fomentar una narrativa pública equilibrada sobre la inteligencia artificial para manejar adecuadamente las expectativas y miedos de la ciudadanía.
– Regulación y legislación: Respetar la lógica tecnológica sin subestimar la capacidad y responsabilidad en la gobernanza democrática. Se debe involucrar a los parlamentos a través de sus comisiones de ciencia y tecnología.
– Democratización de los datos: Priorizar mecanismos como los «sandbox» o «data lakes» para fomentar la colaboración público-privada y conceptualizar los datos como bienes públicos, asegurando su accesibilidad y equidad.
– Regulación y legislación sobre datos: Tratar los datos como un bien público más que como propiedad privada, garantizando su regulación para proteger la ciudadanía democrática y asegurar una gestión equitativa de los mismos.
– Inclusividad: Asegurar la diversidad y la mitigación de sesgos en todos los aspectos de la inteligencia artificial, y promover un enfoque pluralista en la gobernanza de la IA.
– Estrategias nacionales integrales: Implementar estrategias nacionales que busquen tanto la transformación tecnológica como el fortalecimiento de la democracia mediante la digitalización de la administración pública y la educación digital ciudadana.
– Enfoque multiactores: Involucrar a diversos actores en la implementación de la IA para garantizar la igualdad, la responsabilidad y la transparencia, especialmente en los servicios públicos.
– Desarrollo de marcos globales: Fomentar un espacio digital compartido con normas comunes, respetando la diversidad y las necesidades de todas las regiones.
– Transparencia y explicabilidad: Los sistemas de IA deben ser transparentes y sus procesos y decisiones comprensibles para los ciudadanos.
En suma, el documento argumenta que la IA presenta tanto oportunidades como desafíos para la democracia. Se aboga por un enfoque proactivo y reflexivo para guiar el desarrollo y la implementación de la IA, asegurando que sirva para fortalecer la democracia y no para socavarla.