Les principes de base de la gouvernance de l’IA

Source details

Publication : FINANCES & DÉVELOPPEMENT — Décembre 2023.
Auteurs : Ian Bremmer, Mustafa Suleyman.
Thèse centrale : Les décideurs doivent adhérer à cinq grands principes pour gouverner efficacement l’IA.
Enjeux identifiés :
- Progrès scientifiques révolutionnaires, accès sans précédent à la technologie, désinformation toxique et perturbations économiques.
- Transformation fondamentale de la structure et de l’équilibre des puissances dans le monde.
- Nécessité d’un haut niveau de coordination entre États et d’inclusion du secteur privé.

Hyperévolutivité et imprévisibilité :
- « La puissance de calcul utilisée pour former les modèles les plus puissants d’IA est multipliée par 10 tous les ans depuis 10 ans. »
- Référence comparative : « la loi de Moore, qui avait prévu le doublement de la puissance des ordinateurs tous les deux ans. »
- Opérations qui prenaient « deux semaines » s’effectuent « en quelques secondes ».
Potentiel d’autoamélioration :
- Les systèmes pourraient devenir quasi autonomes et s’améliorer par eux-mêmes.
Prolifération aisée :
- Les algorithmes sont plus faciles et moins chers à copier, partager (ou voler) que des biens physiques.
- Coût marginal nul de distribution favorisant une diffusion rapide et mondiale.
- Risque : la présence d’un seul « modèle malveillant ou ‘dissident’ » peut causer des perturbations majeures.

Double usage et accessibilité :
- L’IA combine usages civils et militaires à faible coût, la rendant facilement déployable à l’infini.
Incitations à accélérer plutôt qu’à freiner :
- La suprématie en matière d’IA est décrite comme un objectif stratégique pour États et entreprises disposant des ressources nécessaires.
- Dynamique à somme nulle entre grandes puissances (ex. États-Unis et Chine) encourage l’accélération plutôt que la restriction.
Gouvernance rendue difficile par le contrôle privé :
- « C’est le privé qui contrôle la quasi-totalité de l’IA. »
- Concentration chez quelques bigtechs, mais prolifération future de nombreux petits acteurs compliquant la surveillance.
- Faible incitation des sociétés privées et des spécialistes à s’autoréglementer.

Principe général : Éviter des régimes rigides ; concevoir une gouvernance adaptée à l’hyperévolutivité et à l’imprévisibilité de l’IA.
Cinq principes de départ :
- Précaution :
- « Le profil risque–bénéfice de l’IA est asymétrique. »
- Adapter le principe de précaution aux risques potentiellement catastrophiques de l’IA.
- Réactivité :
- Gouvernance devant allier « réactivité, évolutivité et autocorrection » pour suivre la rapidité et l’autoamélioration de l’IA.
- Inclusivité :
- Collaboration indispensable avec le secteur privé et inclusion des sociétés dans des accords internationaux.
- Exclusion des entreprises compromettrait toute structure de gouvernance.
- Imperméabilité :
- Conformité « hermétique » : entrée facile pour encourager la participation, sortie coûteuse pour décourager la désobéissance, afin d’empêcher la fuite de modèles dangereux.
- Ciblage :
- Gouvernance « ciblée, fondée sur les risques et modulaire, et non universelle ».
- Nécessité d’une « taxonomie évolutive » des répercussions potentielles de l’IA pour déterminer les outils adaptés.

Gouverner l’IA est présenté comme l’un des défis internationaux les plus ardus des décennies à venir.
Importance de déployer des mesures de qualité et d’établir de bonnes institutions.
Proposition : convenir d’un cadre conceptuel international fondé sur les cinq principes ci‑dessus comme point de départ pour une gouvernance efficace et adaptative.
Mise en garde : éviter le faux débat binaire entre progrès et atténuation des risques ; privilégier des solutions créatives adaptées à la nature inédite de l’IA.

Source : Ian Bremmer et Mustafa Suleyman, « Les principes de base de la gouvernance de l’IA », FINANCES & DÉVELOPPEMENT, Décembre 2023.