Promesses et périls de l’intelligence artificielle

Source details

L’IA générative (« GenAI ») promet « une vague de créativité et de productivité », tout en posant « des questions essentielles pour l’humanité ».
L’article est signé HERVE TOURPE, Décembre 2023.
L’enthousiasme initial pour la GenAI coexiste désormais avec des inquiétudes croissantes sur les biais, la transparence, la désinformation et les risques systémiques.

1950 : Alan Turing a envisagé l’idée du « jeu d’imitation ».
Années 60 : le programme ELIZA a montré des réponses semblables à celles d’un humain, mais paramétrées par des règles fixes.
Années 80–90 : apparition des réseaux de neurones artificiels inspirés du cerveau humain.
Années 2000 : la troisième vague de l’IA — apprentissage profond — rendue possible par l’expansion des données et de la puissance informatique.
2014 : les réseaux antagonistes génératifs (RAG) opposent un « générateur » et un « discriminateur » pour améliorer la création de texte et d’images.
2017 : publication de « Attention Is All You Need », introduisant les mécanismes d’attention qui permettent à l’IA de mieux « assimiler l’essence » des données.
Novembre 2022 : lancement de ChatGPT par OpenAI, exemplaire de l’agent conversationnel rendu possible par RAG, attention et plus grande capacité de calcul.
Observations techniques : les RAG et mécanismes d’attention, avec l’expansion continue des données et de la puissance informatique, ont jeté les bases des avancées récentes en GenAI.

Usages identifiés :
- Générer des prévisions économiques, plusieurs scénarios, graphiques et séquences de code.
- Aider les États à améliorer les services publics et à pallier les pénuries de main-d’œuvre.
- Permettre aux banques centrales d’examiner de gros volumes de données bancaires pour affiner les prévisions et surveiller les risques, notamment la fraude.
- Aider les sociétés d’investissement à détecter des évolutions des cours des actions et du sentiment du marché afin de proposer des stratégies de placement.
- Permettre aux compagnies d’assurances de créer des polices mieux alignées avec les besoins et préférences des clients.
Portée : la GenAI « repousse les capacités de l’IA en économie et finance, en introduisant des solutions novatrices à de vieux problèmes ».

Phénomène d’« hallucination » : l’IA peut « créer des faits absurdes et erronés ».
Compréhension : critique selon laquelle l’IA « ne connaît pas le sens des mots ».
Actualité des connaissances : limites liées à la date de mise à jour des modèles (connaissances de ChatGPT limitées à sa date de mise à jour).
Amplification des biais : risque d’amplification des biais existants dans les données d’apprentissage.
Manque de transparence : décisions prises par les modèles peuvent être opaques.

Désinformation et manipulation :
- Mars 2022 : une vidéo générée par l’IA montrait le président ukrainien Volodymyr Zelensky se rendre devant les forces russes — exemple d’utilisation potentielle pour manipuler la politique, les marchés et l’opinion.
- Les créations GenAI (histoires inventées, images altérées, vidéos de synthèse) peuvent propager la désinformation, inciter à la panique et déstabiliser les systèmes économiques et financiers.
Amplification des chambres d’écho : la GenAI peut étayer croyances et opinions préexistantes, renforçant silos idéologiques.
Emploi : potentiel d’automatisation de tâches entraînant « de nombreuses pertes d’emplois » et la nécessité de stratégies pour l’emploi et le recyclage.
Risque extrême : des spécialistes de l’IA, y compris le créateur de ChatGPT, ont cosigné une lettre estimant que « l’atténuation du risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que d’autres risques d’ampleur sociétale tels que les pandémies et les guerres nucléaires ».
Rappel historique : Turing avait prévenu que « le danger existe de voir les machines prendre un jour le contrôle de nos vies ».

Impossible de « désinventer la GenAI » : la réponse doit être constructive et proactive.
Mesures requises :
- Surveillance vigilante des développements et usages de la GenAI.
- Élaboration de nouveaux cadres réglementaires adaptés aux risques spécifiques de la GenAI.
- Engagement à développer des innovations « éthiques, transparentes et contrôlables » en harmonie avec les valeurs humaines.
- Stratégies adaptées pour l’emploi et le recyclage face aux suppressions d’emplois potentielles.

Source : Promesses et périls de l’intelligence artificielle, HERVE TOURPE, Décembre 2023.

Promesses et périls de l’intelligence artificielle
- Promesses et périls de l’intelligence artificielle (Markdown version)
- Promesses et périls de l’intelligence artificielle (PDF)