Pendant des siècles, nous avons construit une grande partie de notre civilisation autour d’une conviction assez simple : certaines capacités appartiennent aux êtres humains et, parmi eux, distinguent ceux qui les maîtrisent le mieux.
Savoir lire et écrire. Mémoriser des connaissances. Construire un raisonnement. Composer un texte. Traduire une langue. Résoudre un problème mathématique. Dessiner. Écrire de la musique. Programmer un ordinateur.
Ces compétences n’étaient pas seulement utiles. Elles conféraient un statut.
Le médecin, l’ingénieur, le professeur, l’avocat, l’écrivain ou le chercheur occupaient une position particulière parce qu’ils maîtrisaient des savoirs difficiles à acquérir et relativement rares.
Or nous sommes peut-être en train d'assister à quelque chose de beaucoup plus important qu'une révolution technologique.
Pour la première fois, une machine peut accomplir en quelques secondes une partie des opérations intellectuelles qui demandaient auparavant des années d’apprentissage.
Et cela pose une question vertigineuse : que devient une civilisation lorsque savoir écrire, raisonner, mémoriser et créer ne constitue plus un avantage humain rare ?
Nous avons déjà perdu une première fois notre place au centre du monde
L’histoire des sciences peut être lue comme une succession de mauvaises nouvelles pour l’orgueil humain.
Copernic nous a expliqué que la Terre n’était pas au centre de l’Univers.
Darwin nous a replacés dans la continuité du monde animal.
Freud ajoutait que nous n’étions même pas entièrement maîtres de notre propre esprit.
À chaque fois, l’humanité a perdu une partie de sa singularité.
Mais il lui restait une dernière forteresse : l’intelligence et la création.
Nous pouvions accepter de vivre sur une petite planète perdue dans un univers gigantesque. Nous pouvions accepter d’être issus de l’évolution biologique.
Il nous restait malgré tout quelque chose d’exceptionnel : nous étions les êtres capables de comprendre cet univers.
Newton pouvait découvrir les lois de la gravitation. Beethoven pouvait composer la Neuvième Symphonie. Victor Hugo pouvait écrire Les Misérables. Einstein pouvait imaginer la relativité.
La grandeur de l'homme moderne s'est largement reconstruite autour de cette idée : si nous ne sommes plus au centre de la Création, nous sommes au moins les créatures capables de la comprendre et de la transformer.
Et voilà qu’une machine commence à entrer dans ce dernier sanctuaire.
Quand une compétence devient abondante, elle perd une partie de sa valeur
L'histoire économique nous enseigne quelque chose de brutal : ce qui est abondant cesse généralement d'être précieux simplement parce que c'était autrefois rare.
Pendant des siècles, savoir écrire correctement était une compétence rare.
Puis l'alphabétisation de masse l'a démocratisée.
Savoir taper rapidement un document était encore une compétence professionnelle recherchée il y a quelques décennies. Cela ne distingue pratiquement plus personne aujourd'hui.
Nous pourrions assister au même phénomène, mais à une échelle infiniment plus importante.
Prenons l’écriture.
Produire un texte argumenté de trois pages demandait jusqu’à récemment de maîtriser la langue, d'organiser ses idées, de posséder un vocabulaire suffisamment riche et de consacrer quelques heures au travail.
Une intelligence artificielle peut désormais en produire des dizaines en quelques minutes.
Même chose pour la traduction, la synthèse documentaire, le développement informatique, l’illustration ou certaines formes d’analyse.
Cela ne signifie pas nécessairement que la machine fait tout mieux que l’homme.
La question est ailleurs.
Elle le fait suffisamment bien pour que la compétence humaine correspondante cesse progressivement d’être rare.
Et lorsque la rareté disparaît, le prestige associé à la compétence peut disparaître avec elle.
Rome nous fournit un précédent intéressant
Nous avons tendance à considérer la culture comme quelque chose qui s’accumule.
Une civilisation découvre Homère, Virgile, Shakespeare, Descartes ou Mozart et ces œuvres viennent simplement enrichir un patrimoine qui ne cesse de croître.
L’histoire romaine montre que les choses sont moins simples.
Dans l’Empire romain, la culture littéraire constituait un élément essentiel de l’identité des élites. Un aristocrate occidental devait connaître Virgile, maîtriser la rhétorique, savoir écrire une prose sophistiquée et parfois composer de la poésie.
Ce n'était pas seulement de la culture générale.
C'était un capital social.
Ces références communes permettaient aux élites dispersées dans un immense empire de partager un même langage intellectuel.
Puis cette culture a progressivement cessé d'être indispensable.
Dans le monde qui succède à l'Empire romain d'Occident, d'autres compétences deviennent plus importantes. Le pouvoir militaire, les réseaux locaux ou la maîtrise des textes religieux peuvent apporter davantage de prestige que la capacité à composer un discours cicéronien.
Virgile n'avait pas disparu.
Les manuscrits existaient encore.
Simplement, savoir Virgile n'apportait plus les mêmes avantages.
Et lorsqu'une société cesse de récompenser une compétence, elle finit généralement par cesser de la transmettre massivement.
Voilà peut-être le véritable danger qui accompagne l'intelligence artificielle.
Pourquoi apprendre ce que la machine sait déjà faire ?
Imaginons un enfant qui entre aujourd'hui à l'école primaire.
Il arrivera sur le marché du travail vers 2040.
Que lui dira-t-on ?
Apprends à rédiger correctement.
Pourquoi ? Une machine rédige instantanément.
Apprends les langues étrangères.
Pourquoi ? La traduction simultanée devient presque invisible.
Apprends à programmer.
Pourquoi ? Une IA peut produire une grande partie du code.
Mémorise des connaissances.
Pourquoi ? L'ensemble du savoir humain est accessible immédiatement.
Apprends à dessiner.
Pourquoi ? Une phrase suffit à générer une image.
Bien entendu, on peut répondre à chacune de ces objections. Apprendre une langue structure la pensée. Écrire permet de clarifier ses idées. Programmer apprend la logique. Mémoriser permet de disposer d'un socle intellectuel à partir duquel raisonner.
Mais reconnaissons que cette réponse devient beaucoup plus difficile à faire accepter.
Pendant longtemps, l'utilité sociale renforçait naturellement l'effort éducatif.
On apprenait parce que savoir donnait accès à des possibilités que l'ignorance interdisait.
Si cette relation disparaît, nous allons devoir trouver une autre justification à l'apprentissage.
Et ce n'est pas un petit problème pédagogique.
C'est un problème de civilisation.
Le risque d'une aristocratie cognitive
Il existe d'ailleurs un paradoxe.
L'intelligence artificielle pourrait démocratiser extraordinairement l'accès aux productions intellectuelles tout en accentuant les différences entre ceux qui comprennent réellement ce qu'ils manipulent et ceux qui se contentent d'utiliser les machines.
Tout le monde pourra produire un texte argumenté.
Mais tout le monde saura-t-il reconnaître un raisonnement faux ?
Tout le monde pourra générer un programme informatique.
Mais combien comprendront réellement son fonctionnement ?
Tout le monde pourra demander une synthèse de Kant, Tocqueville ou Nietzsche.
Mais combien seront capables de discuter la réponse obtenue ?
Nous pourrions alors voir apparaître une société étrange dans laquelle la production intellectuelle serait universellement accessible tandis que la compréhension profonde deviendrait minoritaire.
Une nouvelle aristocratie cognitive pourrait ainsi apparaître.
Non plus celle de ceux qui possèdent l'information — puisque l'information sera partout — mais celle de ceux qui savent la questionner, la hiérarchiser, la confronter et éventuellement dire à la machine : « non, ton raisonnement est faux ».
L'enjeu éducatif changerait alors complètement.
Il ne s'agirait plus seulement d'apprendre à produire des réponses.
Il faudrait apprendre à juger les réponses produites par d'autres intelligences.
Mais le problème va encore plus loin
Car nous supposons encore que l'homme conservera le niveau supérieur : celui du jugement.
La machine rédige, mais l'homme décide.
La machine propose, mais l'homme choisit.
La machine calcule, mais l'homme comprend.
C'est probablement vrai aujourd'hui dans de nombreux domaines.
Mais rien ne garantit que cette frontière soit définitive.
Que se passera-t-il si les systèmes artificiels deviennent également meilleurs pour diagnostiquer, décider, concevoir une stratégie, anticiper les conséquences d'un choix ou détecter nos propres erreurs de raisonnement ?
Nous retrouverions alors une question que les sociétés industrielles connaissent déjà à propos du travail manuel, mais appliquée cette fois au travail intellectuel.
Pendant deux siècles, la machine a progressivement remplacé la force musculaire humaine.
Cela n'a pas détruit notre dignité parce que nous avons déplacé la valeur vers l'intelligence.
L'homme n'avait plus besoin d'être plus fort que la machine puisqu'il pouvait être celui qui la concevait, l'organisait et la commandait.
Mais où déplacerons-nous la valeur si la machine devient également plus compétente intellectuellement ?
Nous devrons peut-être séparer valeur et performance
C'est probablement là que se trouve le véritable changement philosophique.
Nous avons pris l'habitude d'associer la valeur d'une activité à la performance obtenue.
Un bon écrivain écrit mieux.
Un bon joueur d'échecs joue mieux.
Un bon traducteur traduit mieux.
Un bon peintre peint mieux.
Mais nous pratiquons déjà quantité d'activités dans lesquelles cette logique ne fonctionne plus.
Nous continuons à courir alors qu'une voiture va infiniment plus vite.
Nous continuons à jouer aux échecs alors qu'un ordinateur nous bat.
Nous continuons à faire du jardinage alors que l'agriculture industrielle produit beaucoup plus efficacement des légumes.
Nous continuons à jouer du piano alors qu'un enregistrement nous permet d'entendre les meilleurs interprètes du monde.
Pourquoi ?
Parce que la valeur de certaines activités ne réside pas seulement dans leur résultat mais dans ce qu'elles font de celui qui les pratique.
Peut-être faudra-t-il progressivement appliquer cette idée à l'ensemble de la vie intellectuelle.
Lire non parce qu'une machine ne peut pas résumer le livre, mais parce que lire transforme celui qui lit.
Écrire non parce qu'une machine ne peut pas produire le texte, mais parce qu'écrire oblige à organiser sa pensée.
Apprendre non parce que l'information est inaccessible autrement, mais parce qu'une connaissance intégrée dans un cerveau humain n'est pas équivalente à une information disponible sur un serveur.
Créer non parce que personne d'autre ne pourrait produire l'œuvre, mais parce que créer constitue une expérience humaine.
Le vrai danger serait de renoncer
Le scénario inquiétant n'est donc peut-être pas celui d'une intelligence artificielle extraordinairement performante.
C'est celui d'une humanité qui, constatant cette performance, déciderait progressivement qu'il est inutile d'apprendre.
Pourquoi écrire ? La machine le fait.
Pourquoi mémoriser ? Elle se souvient.
Pourquoi réfléchir longtemps ? Elle répond immédiatement.
Pourquoi dessiner ? Elle génère.
Pourquoi chercher ? Elle sait.
Le confort serait immense.
Mais nous risquerions alors de reproduire, sous une forme nouvelle, le phénomène observé à la fin du monde romain : non pas la disparition des connaissances, mais la disparition du désir social de les maîtriser.
Avec une différence considérable.
Les textes de Virgile risquaient de disparaître lorsque plus personne ne les copiait.
Nos connaissances, elles, pourraient continuer d'exister parfaitement dans les machines.
Nous pourrions donc vivre dans une civilisation extraordinairement savante peuplée d'individus qui le seraient de moins en moins.
C'est peut-être cela, le paradoxe le plus troublant de l'intelligence artificielle.
Une civilisation peut-elle rester cultivée par procuration ?
Nous avons longtemps pensé que le progrès consistait à augmenter les capacités humaines grâce aux outils.
L'écriture augmentait notre mémoire.
Le livre augmentait la diffusion des connaissances.
La calculatrice augmentait nos capacités de calcul.
Internet augmentait notre accès à l'information.
L'intelligence artificielle franchit peut-être une étape différente : elle ne se contente plus d'étendre certaines facultés humaines. Elle commence à les exercer à notre place.
La frontière est subtile mais fondamentale.
Un outil qui augmente ma capacité à penser peut me rendre plus puissant.
Un outil qui me dispense progressivement de penser peut produire exactement l'effet inverse.
Tout dépendra donc moins de la puissance de l'intelligence artificielle que de l'usage culturel que nous déciderons d'en faire.
Nous pouvons construire une société dans laquelle l'IA permet à chacun d'aller plus loin : lire davantage, explorer des domaines nouveaux, confronter ses raisonnements, créer des choses auparavant impossibles.
Mais nous pouvons aussi construire une société dans laquelle elle devient une formidable machine à éviter l'effort intellectuel.
Et les deux sociétés pourraient disposer exactement des mêmes technologies.
La différence serait culturelle.
Au fond, l'intelligence artificielle nous oblige peut-être à répondre à une question que nous avions jusqu'ici soigneusement évitée.
Pourquoi voulons-nous que les êtres humains soient cultivés, capables de raisonner et capables de créer ?
Tant que ces qualités procuraient un avantage économique et social évident, la question ne se posait guère.
Si demain les machines savent faire tout cela mieux que nous, nous ne pourrons plus répondre simplement : « parce que c'est utile ».
Il faudra peut-être répondre : parce que c'est ainsi que nous avons choisi d'être humains.