Promover una democracia más inclusiva a través de la inteligencia artificial

Source details

Canonical URL: Promover una democracia más inclusiva a través de la inteligencia artificial

Mucha gente cree que la inteligencia artificial (IA) está socavando, o pronto socavará la democracia; preocupaciones citadas: pérdida de puestos de trabajo, desestabilización económica, aumento de la brecha entre ricos y pobres, concentración del poder en unas pocas empresas tecnológicas y delegación de la toma de decisiones humanas a máquinas ("algocracia").
Perspectiva alternativa: las sociedades disponen de la capacidad política y la responsabilidad para abordar los daños potenciales de la IA y, al mismo tiempo, aprovechar la IA para fortalecer la democracia y consolidar la capacidad colectiva de gobernar la IA.
El gobierno de la IA requiere no solo regulación experta, sino más aportaciones y opiniones de los ciudadanos, incluida la participación en instituciones internacionales.

Durante 40 años, muchos gobiernos han intentado incluir a los ciudadanos en la formulación de políticas más allá de las elecciones.
La OCDE identificó cerca de 600 casos (informe de 2020) en los que una muestra aleatoria de ciudadanos participó activamente en la formulación de recomendaciones de política.
Ejemplos de procesos constituyentes y consultas masivas: Brasil, Kenya, Nicaragua, Sudáfrica, Uganda (décadas de 1980 y 1990); Chile, Egipto e Islandia (más recientemente).
Campañas de consulta multiformato:
- Gran Debate Nacional de 2019 en Francia: participación de millón y medio de personas, aproximadamente.
- Conferencia sobre el Futuro de Europa: cinco millones de personas visitaron el sitio web y 700.000 participaron en el debate.
Observación crítica: muchos procesos han sido analógicos y de baja tecnología; políticos abrumados por datos brutos han terminado ignorando aportaciones ciudadanas; la deliberación a menudo fue superficial.

Taiwan (provincia china): adopción de la plataforma de código abierto pol.is para expresar opiniones y votar las opiniones de otros; genera un mapa de opinión pública que identifica consensos, opiniones minoritarias y grupos de presión; contribuye a reducir la polarización.
pol.is ha integrado aprendizaje automático para ofrecer experiencia más deliberativa; utiliza grandes modelos lingüísticos para "hablar" en nombre de diferentes grupos de opinión y ayudar a entender posiciones de aliados, oponentes y otros grupos.
Alcance de pol.is: participan 12 millones de personas, aproximadamente la mitad de la población.
Meta (Facebook) experimentó en 2022 con foros comunitarios y una iniciativa de diciembre de 2022: 6.000 usuarios de 32 países debatieron durante varios días en 19 idiomas sobre ciberacoso en el metaverso; la plataforma de la Universidad de Stanford impulsada por IA asignó tiempos de intervención, ayudó a decidir temas y aconsejó sobre cuándo dejarlos de lado.
Nota: no está demostrado que moderadores de IA superen a humanos actualmente, pero podrían hacerlo pronto; ventaja clave de la IA: menor costo, lo que permitiría ampliar procesos deliberativos de miles a varios millones.

Próxima frontera de aplicación de IA: traducción instantánea entre grupos multilingüísticos y resumen de deliberaciones colectivas.
Estudios recientes: los resúmenes elaborados por la IA son un 50% más precisos que los de personas humanas (evaluación realizada por estudiantes que compararon resúmenes de transcripciones de deliberaciones preparados por IA y codificadores humanos).
Muchas tareas probablemente requerirán criterio humano en cierto grado; la IA puede seguir siendo de gran ayuda para analistas, moderadores y traductores humanos.
Iniciativa destacada: OpenAI presentó un programa de becas llamado Democratic inputs to AI; subvencionó los 10 equipos más prometedores del mundo que trabajan en algoritmos para la deliberación humana.

Riesgos asociados al uso de IA en contextos democráticos: distorsión de datos, problemas de privacidad, vigilancia, escollos jurídicos, brecha digital y posible exclusión de grupos analfabetos y tecnoescépticos.
Muchos problemas deben abordarse primordialmente desde ámbitos político, económico, jurídico y social, además del tecnológico.
Herramientas tecnológicas sugeridas para mitigar riesgos:
- Pruebas de conocimiento cero (ZPK, por su sigla en inglés) para verificar identidad sin recopilar datos personales (ejemplos: autenticación por mensaje de texto, cadena de bloques); aplicación en votaciones en línea y contextos deliberativos para compartir información confidencial o actuar como denunciante.
- IA generativa como medio para facilitar conocimientos y recursos de aprendizaje a quienes los necesiten; interlocutores adaptados a ciudadanos que expliquen políticas técnicas en estilos cognitivos particulares y conviertan contribuciones orales en textos escritos.

La IA, pese a sus limitaciones y riesgos, puede posibilitar una democracia más inclusiva, participativa y deliberativa, fortaleciendo la legitimidad y la capacidad de los gobiernos para supervisar el desarrollo de la IA.
La reglamentación de la IA probablemente será más eficaz en democracias empoderadas con IA.
Riesgo residual: la democracia misma puede verse amenazada por la revolución de la IA; se debe invertir urgentemente en herramientas de IA que amplíen de forma segura el potencial de participación y deliberación ciudadana.

HÉLÈNE LANDEMORE, Diciembre de 2023