Pour une démocratie plus inclusive grâce à l’IA

Source details

L’IA peut améliorer les institutions démocratiques en permettant aux citoyens de vraiment faire entendre leur voix.
L’IA présente des risques (suppression d’emplois, déstabilisation économique, renforcement de la concentration du pouvoir, affaiblissement des structures étatiques, risque d’“algocratie”), mais les sociétés disposent de la capacité politique et de la responsabilité d’orienter son développement.
Plutôt que de seulement accroître la réglementation technique, la gouvernance de l’IA exige davantage d’expression et de participation citoyennes, y compris au niveau des institutions internationales.

Depuis 40 ans, de nombreuses expériences locales et à petite échelle ont cherché à dépasser le simple droit de vote (assemblées et jurys de citoyens).
Un rapport de l’OCDE de 2020 a recensé près de 600 expériences où un échantillon aléatoire de citoyens s’est impliqué fortement et a formulé des recommandations.
Processus constitutionnels de grande échelle cités : Afrique du Sud, Brésil, Kenya, Nicaragua, Ouganda (années 80 et 90); Chili, Égypte, Islande (plus récemment).
Exemples de consultations de masse :
- Le Grand Débat national (France) : environ 1,5 million de personnes.
- La conférence sur l’avenir de l’Europe : 5 millions de visites du site Internet et 700 000 personnes participant aux débats.
La plupart de ces processus étaient faiblement technologiques et sans recours à l’IA, conduisant parfois à une perte de visibilité politique des contributions citoyennes et à un niveau de délibération souvent superficiel.

pol.is permet aux citoyens d’exposer en détail leur opinion, de voter sur les opinions d’autres personnes, et cartographie l’opinion publique pour identifier consensus et positions minoritaires.
Rôle : contribue à une compréhension mutuelle, réduit la polarisation, et informe les responsables politiques pour formuler des politiques publiques reflétant l’ensemble des points de vue.
Évolution récente : intégration de l’apprentissage automatique et d’un grand modèle de langage (GML) qui s’exprime au nom de différents groupes d’opinion et aide les contributeurs à situer leur position.
Utilisation reportée : 12 millions de personnes y participent (soit presque la moitié de la population).

Meta a expérimenté en 2022 des forums communautaires et, en décembre 2022, une initiative avec 6 000 utilisateurs représentant 32 pays et 19 langues pour débattre du cyberharcèlement dans le métavers ; délibérations modérées par une IA basique (attribution des temps de parole, aide à choisir thématiques et temps).
À ce jour, rien ne démontre que la modération par l’IA est plus performante que la modération humaine, mais l’IA offre l’avantage d’être potentiellement bien moins chère, facilitant une montée en échelle (p.ex., passer de 6 000 personnes à plusieurs millions).

Applications encore expérimentales : traduction instantanée pour groupes multilingues et résumé de délibérations collectives.
Résultats empiriques cités : l’IA serait supérieure de 50 % à la précision humaine pour les tâches de résumé (évaluation conduite par des étudiants de premier cycle formés à comparer des résumés de transcriptions de délibérations produits respectivement par l’IA et des codeurs humains).
Rôle probable : l’IA assistera analystes, modérateurs et traducteurs humains, mais une dose d’intelligence humaine restera nécessaire pour de nombreuses tâches.
Initiatives de soutien : OpenAI a lancé un programme « Democratic inputs to AI » subventionnant les 10 équipes les plus prometteuses pour élaborer des algorithmes applicables à la délibération humaine.

Principaux risques liés au déploiement de l’IA dans la sphère démocratique : distorsion des données, confidentialité, potentiel de surveillance, défis juridiques, fossé numérique, exclusion des technosceptiques et des personnes peu familiarisées avec les technologies numériques.
Remédiations technologiques possibles :
- Protocoles sans divulgation de connaissances (preuves à connaissances nulles, ZKP) pour vérifier ou « prouver » l’identité sans collecter de données sur les participants ; applications : votes en ligne, délibérations impliquant des informations sensibles, rôle de lanceur d’alerte.
- IA générative pour fournir un accès élargi aux connaissances et au tutorat, adapter l’explication de mesures gouvernementales à des styles cognitifs particuliers (p.ex., via des images) et convertir des contributions orales en contributions écrites.

L’IA peut permettre une démocratie plus inclusive, participative et délibérative, potentiellement jusqu’à l’échelle planétaire, renforçant la légitimité et les connaissances des gouvernants pour superviser le développement de l’IA.
Il est urgent d’investir dans des outils intelligents qui augmentent le potentiel participatif et délibératif des gouvernements.
La gouvernance de l’IA doit combiner interventions techniques, cadres juridiques et surtout expressions et participations citoyennes; nombre des problèmes devront être traités sur les plans politique, économique, juridique et social.
Espoir que les outils favorisant la délibération humaine (subventionnés par des programmes comme « Democratic inputs to AI ») soient déployés prochainement, en particulier pour les délibérations mondiales sur la gouvernance de l’IA.

Helene Landemore, Décembre 2023 — FINANCES & DÉVELOPPEMENT