À l’ère de l’IA, la curiosité, l’esprit critique et l’autodiscipline sont plus importants que jamais

Les économistes ont reconnu depuis longtemps l’importance du capital humain, c’est-à-dire de nos compétences et de nos connaissances. Il y a plus d’un siècle, Alfred Marshall écrivait qu’il n’y avait pas d’investissement plus rentable que l’investissement dans le capital humain. En dehors de la sphère économique, d’autres penseurs sont arrivés à la même conclusion. Considérant les progrès économiques du monde occidental aux XVI^e et XVII^e siècles, le philosophe Michel Foucault s’est demandé s’ils n’étaient pas précisément dus à l’accumulation accélérée de capital humain. Il n’est pas exagéré d’affirmer que le capital humain est à l’origine de l’augmentation des niveaux de vie génération après génération dans les sociétés modernes.

Les avancées récentes en matière d’intelligence artificielle (IA) suscitent des craintes concernant le remplacement du capital humain. L’IA et le capital humain seront-ils complémentaires, se rendant mutuellement plus productifs ? Ou seront-ils substituables ? Trois facettes essentielles, quoique parfois négligées du capital humain, à savoir la curiosité, l’esprit critique et l’autodiscipline, peuvent nous aider à répondre à ces questions difficiles.

Curiosité

Imaginons que nous rassemblions la totalité des données jamais enregistrées jusqu’en 1939 et que nous les introduisions dans un grand modèle de langage (GML). L’année 1939 est importante ici, car elle précède de peu la naissance de Paul McCartney et John Lennon. Elle précède en fait leur conception. Supposons que nous demandions ensuite au GML de créer des chansons en s’inspirant des adjectifs utilisés par les critiques musicaux ayant écouté les Beatles. Le GML écrirait-il « Yesterday » ?

Voici deux raisons pour lesquelles la réponse est non. Premièrement, il n’y aurait pas assez d’informations pour prédire la production créative des deux gars de Liverpool pas encore nés. Pour écrire leurs chansons, Lennon et McCartney puisaient leur inspiration dans leurs propres vies. Or avant leur existence, il n’y aurait pas beaucoup d’indices de ce qu’étaient leurs vies. Qui plus est, nous ne pourrions pas prévoir avec certitude que John et Paul aient même existé, ne sachant pas lesquels des millions de spermatozoïdes de leurs pères auraient fécondé les ovules de leur mère respective.

Deuxièmement, sans fournir de détails spécifiques sur les chansons, nos instructions seraient bien trop vagues. « Yesterday » a été décrite comme une chanson mélancolique, intemporelle, élégante, lyrique et intimiste. Ces termes sont peut-être exacts, mais ils ne réduisent guère le champ des possibles. Il ne fait donc aucun doute que, avant les Beatles, l’IA n’aurait pas pu créer leur musique par prédiction et nous aurions donc été privés de ce que certains considèrent comme l’un des chefs-d’œuvre ultimes du rock and roll. Et l’on peut en dire autant du travail de votre peintre, écrivain ou sculpteur favori — ou de tout autre artiste né après 1939.

À présent, intéressons-nous à la période actuelle plutôt qu’à 1939. Pour les mêmes raisons, un GML alimenté avec toutes les informations disponibles à ce jour ne se substituerait pas au talent, à la créativité et à la curiosité des futurs créateurs. Même si l’IA est capable de recombiner à peu près correctement des données anciennes (ouvrages, enregistrements et images passés), elle ne peut pas imiter les créations humaines à venir.

L’art n’est pas le seul domaine concerné. Prenons par exemple la question suivante : « Que peut-on faire pour réduire les violences par arme à feu à Chicago ? » Un GML répondrait par une synthèse des études précédentes sur le sujet, en soulignant éventuellement les plus pertinentes pour la ville de Chicago, mais il ne soumettrait pas de nouvelles idées à l’expérimentation empirique pour élaborer une réponse inédite. L’IA toute seule n’est pas capable de concevoir une politique publique, de trouver des financements, de préparer les enquêteurs, d’interroger les ménages, de convaincre les personnes de répondre aux enquêtes, etc. Les êtres humains, eux, le font, poussés par leur curiosité intellectuelle. C’est notre curiosité qui alimente le stock de connaissances dont dépend l’IA.

Nous en serons bientôt au stade où toutes les informations disponibles auront été intégrées dans les GML — c’est ce que l’on appelle le « pic de données ». Au-delà, sans de nouveaux apports d’informations (études sur les nouvelles stratégies de prévention des violences armées, par exemple), les résultats produits par les GML progresseront peu. Si chacun d’entre nous décidait de s’en remettre à ce que disent les GML au lieu de financer et mener de nouvelles recherches, nous nous retrouverions rapidement coincés avec des études obsolètes, ce qui n’est clairement pas souhaitable. Le phénomène du pic de données signifie que si nous voulons que l’IA réponde de mieux en mieux aux questions, l’humanité doit, elle, continuer de repousser les frontières du savoir en continuant de se poser de nouvelles questions et d’y répondre. Nous devons rester créatifs et curieux.

Une analogie avec les marchés financiers illustre bien ce point. Prenons la célèbre hypothèse des marchés efficients formulée par Eugene Fama. L’idée est que les prix reflètent l’ensemble des informations disponibles ; par conséquent, sauf à disposer d’une source d’information privilégiée, vous ne pouvez pas battre le marché. Sanford Grossman et Joseph Stiglitz, qui ont affiné la notion par la suite, ont aussi soulevé un paradoxe informationnel : si les prix reflètent déjà l’ensemble des données disponibles, les investisseurs n’ont aucun intérêt à rassembler ou analyser des informations. Mais si personne ne rassemble ces informations, comment peuvent-elles se refléter dans les prix ? Les agents économiques produisent et traitent des informations, car ils en retirent des avantages, et les prix reflètent ces informations, même si c’est de manière imparfaite et avec un certain décalage.

De même, l’IA peut intégrer toutes les informations disponibles à un moment donné, mais, pour rester pertinente et s’améliorer, elle a besoin que les êtres humains continuent de créer de nouveaux savoirs. De ce point de vue, la curiosité et l’IA sont complémentaires et non substituables. À long terme, l’IA ne progressera que si nous produisons de meilleures idées et en plus grand nombre.

Esprit critique

Dans ses Sophismes économiques publiés en 1845, Frédéric Bastiat décrit une dichotomie intéressante entre sciences exactes et sciences sociales. « Les sciences exactes, estime-t-il, ne peuvent être sues que des savants » et « le vulgaire en recueille le fruit malgré [son] ignorance. » La mise en pratique des sciences sociales, en revanche, est le fait de tout un chacun, de sorte que « nul ne convient qu’il les ignore ». Si nous tendons à accepter sans réserve ce que disent les experts des sciences exactes, nous en faisons rarement de même quand il s’agit des sciences sociales. Les gens ordinaires ne prétendent pas pouvoir améliorer la conception des puces électroniques ou des moteurs d’avion, mais affirment souvent qu’ils sauraient rendre la fiscalité et la lutte contre la pauvreté plus efficaces. La dichotomie de Bastiat s’applique aussi à nos interactions avec l’IA.

Quand vous demandez à un GML de résoudre un problème mathématique, vous obtenez une réponse simple et directe. Vous n’avez pas à faire usage de votre jugement. Vos préjugés n’influent pas sur votre interprétation des informations qui vous sont fournies. Dans le domaine des sciences sociales et humaines, les choses se présentent rarement de cette façon. Imaginez que vous posiez les questions suivantes à un GML : « Comment savoir si quelqu’un est amoureux de moi ? », « Dieu existe-t-il ? », « Faudrait-il que j’aie des enfants ? », « Pour qui devrais-je voter aux élections présidentielles ? ». Les GML élaboreront des réponses à partir de tout ce que d’autres auront déjà dit à ces sujets par le passé, ce qui sera à chaque fois très éloigné d’une réponse définitive. Il nous appartient alors de soupeser les arguments et de trancher. L’esprit critique devient là essentiel.

Mais la réflexion critique est importante à un autre titre. Le psychologue Donald Campbell nous a lancé l’avertissement suivant : « Plus un indicateur social quantitatif est utilisé pour la prise de décisions, plus il est soumis aux tentatives de corruption. » La loi de Campbell s’applique aussi à l’IA. Il y a tellement de gens qui s’en remettent aux GML que des acteurs malveillants sont prêts à contaminer les données d’entraînement en pratiquant la désinformation, c’est ce que l’on appelle l’« empoisonnement des données ». Ainsi, même au niveau le plus élémentaire, les informations fournies par les GML peuvent être trompeuses. Nous devons donc rester vigilants. Garder un esprit critique est fondamental à cet égard.

Autodiscipline

L’IA peut synthétiser de grandes quantités d’informations pour guider nos décisions, mais n’a pas la main sur ce que nous faisons effectivement. Nous sommes faillibles et souvent la proie de nos émotions. Un GML peut définir un programme d’entraînement personnalisé parfait pour vous, mais son efficacité dépendra de votre discipline : vous astreindrez-vous à faire chaque séance même quand vous n’en avez pas envie ? L’IA peut dire à votre collègue combien elle devrait économiser chaque mois pour sa retraite ou à votre voisin quelle quantité d’alcool ne pas dépasser en soirée, mais l’un comme l’autre peut ne pas suivre l’avis donné tout en sachant avoir tort.

Depuis Adam Smith, les économistes ont pris acte de la faillibilité humaine. Dans son ouvrage intitulé Théorie des sentiments moraux, Smith explique : « Les qualités qui nous sont le plus utiles sont tout d’abord la raison et la compréhension supérieures, puis la maîtrise de soi, qui nous permet de renoncer à un plaisir instantané ou de supporter un désagrément immédiat pour augmenter un plaisir ou atténuer un plus grand désagrément ultérieurement. » Il ne s’agit donc pas uniquement de savoir ce qui est bon pour nous, il faut aussi être suffisamment discipliné pour agir en conséquence.

Cet argument de Smith est crucial compte tenu du large éventail d’activités économiques relevant de la « production des ménages ». Ce terme renvoie au fait que nous consommons rarement « tel quel » ce que nous achetons. Nous le transformons avec du temps, des efforts et des connaissances. Nous pouvons acheter un vélo d’appartement, mais il faut l’utiliser. Il en va de même pour les livres, les ingrédients d’un repas et même les relations. Nous devons consacrer du temps, des efforts et des connaissances pour en obtenir ce que nous voulons vraiment. Ce processus est soumis au problème du maillon faible modélisé par Michael Kremer dans sa théorie du joint torique (ainsi nommée en référence à la pièce perdue par une navette spatiale il y a 40 ans). Dans ce contexte, aucun autre intrant ne peut être substitué aux efforts, au temps et aux connaissances qu’apportent les individus. Peu importe le prestige de votre salle de sport si vous n’y allez jamais. Nous pouvons appliquer ce principe à l’IA : à mesure qu’elle progressera, le maillon faible sera notre capacité à persévérer sur la voie que nous savons être la plus indiquée dans notre cas. Par conséquent, les avantages de l’autodiscipline augmenteront à mesure que l’IA s’améliorera en tant que source d’information. 

Capital humain

La curiosité, l’esprit critique et l’autodiscipline sont des formes de capital humain qui prospèrent dès lors que nous sommes encouragés — de manière répétée et délibérée — à être curieux, à exercer notre esprit critique et à nous autodiscipliner. Si vous n’en êtes pas convaincu, considérez la situation inverse : les systèmes scolaires ou les milieux professionnels qui découragent le questionnement, la réflexion et l’autonomie nuisent clairement à ces capacités.

Pour les lecteurs qui s’inquiètent du « point de singularité technologique », ce moment de bascule où l’IA dépasse l’intelligence humaine et devient capable de s’améliorer elle-même, parler des GML peut sembler naïf. Une fois ce stade de singularité atteint, l’IA pourrait s’apparenter à une nouvelle espèce terrienne. Nous pouvons imaginer deux scénarios d’interactions entre l’homme et l’IA. Le premier est celui d’un affrontement façon Matrix, le film des Wachowski. Le capital humain de chaque génération serait l’unique moyen de riposter et l’accumulation de ce capital serait une priorité. Dans l’autre scénario, l’IA et les êtres humains coexistent de manière pacifique. À quoi ressembleraient nos interactions avec des entités superintelligentes ?

D’une certaine façon, les êtres humains ont déjà connu ce genre d’interactions en travaillant dans de grandes organisations. Ces « créatures supérieures » sont mues par leur propre intérêt et concentrent une puissance cérébrale très supérieure à celle de n’importe quel être humain. Mais elles nous rémunèrent pour l’utilisation de nos connaissances et de nos compétences au service de leurs objectifs. Si notre relation avec l’IA au-delà du point de singularité ressemblait à notre relation avec ces entreprises, l’investissement dans le capital humain continuerait d’être rentable. Dans ce scénario de coexistence, certains individus pourraient choisir de créer des communautés où l’IA n’aurait pas cours. Ces communautés à basse technologie s’appuieraient sur le capital humain de leurs membres. Par conséquent, que l’on se place ou non dans une vision apocalyptique, il est toujours souhaitable d’investir dans le capital humain.

Revenons au présent. Les efforts très médiatisés de Meta pour recruter des talents humains en vue de concevoir des technologies d’IA plus performantes — en proposant des rémunérations exorbitantes — témoignent du rôle crucial du capital humain à l’heure actuelle. L’heure de sa fin n’a pas encore sonné, il continue d’évoluer. La mécanisation de l’agriculture, l’automatisation des activités manufacturières et aujourd’hui l’« algorithmisation » des services montrent que, à chaque stade, du capital humain a été libéré dans certains secteurs et davantage demandé dans d’autres.

Mais il ne faut pas voir ces différents stades comme des processus indépendants. Le remplacement du capital humain par les tracteurs, l’irrigation et les engrais a permis le décollage industriel. Les chaînes de production aux processus automatisés ont permis l’essor des services. Et l’IA permettra le prochain boom économique. Ce n’est pas parce que nous ne pouvons pas encore le concevoir que cela n’arrivera pas. Imaginons nos arrière-arrière-arrière-grands-parents tentant de se représenter ce que Google ou Nvidia permettent de faire aujourd’hui. Comme par le passé, le capital humain conservera toute sa pertinence, simplement sous des formes nouvelles et peut-être difficiles à prévoir. De nouveaux secteurs vont apparaître, qui créeront beaucoup de valeur grâce aux compétences et aux connaissances des individus qui en seront les acteurs.

Les opinions exprimées dans la revue n’engagent que leurs auteurs et ne reflètent pas nécessairement la politique du FMI.