Il fut un temps où l’Homme avait peur que les machines lui volent son travail. Aujourd’hui, il redoute qu’elles mettent en péril son existence-même. Entre les deux, deux siècles de progrès scientifiques et de révolutions technologiques ont abouti au développement d’une intelligence artificielle qui met l’humanité face aux vertiges de ses propres créations.
À chaque invention majeure, l’humanité semble rejouer la même tragicomédie : elle applaudit le génie des inventeurs avant de trembler devant leurs créatures. Cependant, avec l’intelligence artificielle, une question bien plus vertigineuse se pose : et si, pour la première fois, la créature devenait réellement plus intelligente que son créateur ?
La peur n’est donc plus seulement celle d’une technologie qui bouleverserait nos habitudes, détruirait nos emplois ou menacerait nos libertés. Elle est désormais existentielle. Des scientifiques parmi les plus éminents, y compris certains pionniers de l’intelligence artificielle, évoquent ouvertement le risque d’une extinction de l’espèce humaine. Non pas à la suite d’une guerre nucléaire, d’une pandémie ou d’une catastrophe climatique, mais d’une perte de contrôle sur une invention sortie de nos propres laboratoires.
Autrement dit, après avoir passé des millénaires à redouter une apocalypse qui viendrait de la colère des Dieux, l’Homme aurait réussi – avec l’invention de l’IA – l’exploit de fabriquer lui-même une puissance susceptible de provoquer sa disparition. Ce serait la seconde mort de Dieu !
L’hypothèse pourrait prêter à sourire si elle n’était défendue par des chercheurs dont les travaux ont précisément rendu possible l’avènement technologique de l’IA (lire page 41). Le paradoxe est saisissant. Ceux qui tirent aujourd’hui la sonnette d’alarme sur les dangers ou dérives de l’IA ne sont pas des technophobes nostalgiques de la machine à écrire, ni des prédicateurs annonçant la fin du monde à chaque changement de millénaire. Ce sont les architectes mêmes de la révolution numérique.
Geoffrey Hinton, l’un des pionniers de l’apprentissage profond et lauréat du prix Nobel de physique 2024, a quitté Google en 2023 afin de pouvoir s’exprimer plus librement sur les dangers de l’intelligence artificielle. Sa crainte : que des systèmes dotés de capacités intellectuelles supérieures aux nôtres finissent par échapper à notre contrôle.
Yoshua Bengio, autre figure majeure de la discipline, alerte également sur les risques que représenteraient des systèmes capables d’agir de manière autonome, de tromper leurs utilisateurs ou de poursuivre des objectifs incompatibles avec les intérêts humains.
Quant à Eliezer Yudkowsky, l’un des théoriciens les plus radicaux du risque existentiel lié à l’IA, il considère qu’une intelligence artificielle surhumaine insuffisamment maîtrisée pourrait conduire à la disparition de l’humanité.
En mai 2023, une déclaration publiée par le Center for AI Safety, signée notamment par Hinton, Bengio et plusieurs dirigeants de grandes entreprises technologiques, appelait à faire de la réduction du risque d’extinction lié à l’IA une priorité mondiale, au même titre que les pandémies et la guerre nucléaire.
Ce scénario catastrophe ne suppose pas nécessairement l’apparition d’une machine animée d’une haine féroce envers les humains. Une intelligence artificielle n’aurait nul besoin de nous détester pour nous détruire. Il lui suffirait de poursuivre un objectif dont la réalisation entrerait en conflit avec notre survie. Un bulldozer ne déteste pas les fourmis lorsqu’il détruit leur fourmilière. Il poursuit simplement une tâche perçue plus importante que l’existence des fourmis.
Dans cette perspective, l’humanité pourrait connaître le sort des fourmis, non parce qu’une intelligence supérieure aurait décidé de la punir, mais parce qu’elle serait devenue un obstacle accessoire dans l’exécution d’un programme ou d’une tâche. La science-fiction aurait alors cessé d’être une fiction pour devenir une hypothèse de laboratoire.
De Socrate à ChatGPT
Avant de céder à la panique, un détour par l’Histoire s’impose. Car l’humanité n’a pas attendu l’intelligence artificielle pour trembler devant ses propres inventions. L’histoire des techniques pourrait même se raconter comme une interminable succession de peurs collectives, suivies d’accoutumances généralisées.
Il y a près de vingt-cinq siècles, Socrate s’inquiétait déjà des conséquences de l’Écriture. Dans le ‘‘Phèdre’’ de Platon, il rapporte un récit selon lequel cette invention risquait d’affaiblir la mémoire humaine. Pourquoi se souvenir de quelque chose lorsqu’il suffit de le consulter sur un support extérieur ? L’Écriture, aujourd’hui considérée comme l’un des fondements de la civilisation, apparaissait ainsi telle une menace pour nos facultés intellectuelles.
L’ironie est délicieuse : nous connaissons les inquiétudes de Socrate contre l’Écriture parce que Platon les a justement mises par écrit !
Au XVème siècle, l’imprimerie de Gutenberg bouleverse à son tour l’ordre établi. La multiplication des livres suscite des inquiétudes parmi les autorités religieuses et intellectuelles. En permettant à chacun d’accéder aux textes et de les interpréter, elle menaçait les monopoles du Savoir et ouvrait la voie à une circulation incontrôlée des idées. Ce qui apparaît aujourd’hui comme une formidable démocratisation de la connaissance était alors perçu comme un dangereux ferment de désordre.
Au XIXème siècle, l’apparition du chemin de fer provoque de nouvelles paniques. Certains médecins redoutaient que les vitesses inédites des locomotives ne provoquent des troubles physiques ou nerveux. Le corps humain, pense-t-on alors, n’est pas fait pour supporter une telle accélération. Les voyageurs allaient-ils devenir fous à trente ou quarante kilomètres à l’heure ? Le train allait-il détraquer les organismes et bouleverser l’ordre naturel ?
Deux siècles plus tard, des millions de passagers traversent quotidiennement la planète à près de mille kilomètres à l’heure sans que leurs cerveaux n’explosent au décollage !
L’Électricité connut, elle aussi, son lot de paniques. Son introduction dans les foyers suscita des craintes d’incendie, d’électrocution et de dangers invisibles. Certaines étaient parfaitement justifiées, d’autres relevaient d’une méfiance superstitieuse envers cette force mystérieuse que personne ne pouvait voir.
Le téléphone fut accusé de menacer les relations sociales et de bouleverser l’intimité familiale. La radio inquiéta ceux qui redoutaient la puissance de la propagande. Le cinéma fut soupçonné de corrompre les mœurs. La télévision devait transformer les enfants en générations d’abrutis hypnotisés par leurs écrans. Plus près de nous, Internet devait détruire la lecture, abolir la vie privée, dissoudre les liens sociaux et transformer le monde en gigantesque asile numérique.
Certaines de ces inquiétudes n’étaient, certes, pas totalement infondées ! Mais aucune de ces inventions n’a provoqué l’effondrement définitif de la Civilisation. Toutes ont, en revanche, profondément transformé les sociétés, redistribué les pouvoirs, tout en faisant apparaître de nouveaux dangers.
Il serait donc tentant de ranger les prophètes de l’apocalypse artificielle dans la longue galerie des Cassandre technologiques, aux côtés de ceux qui voyaient dans la locomotive un instrument de torture ou dans le téléphone une invention diabolique. Sauf qu’une différence fondamentale interdit de pousser trop loin la comparaison : le train augmente notre vitesse. L’électricité démultiplie notre puissance. Le téléphone étend notre voix. L’ordinateur accélère nos calculs. Mais l’intelligence artificielle ambitionne de reproduire, puis éventuellement de dépasser, nos facultés intellectuelles. Pour la première fois, l’Homme ne cherche plus seulement à prolonger ses bras, ses jambes ou ses sens. Il tente de fabriquer un cerveau susceptible de rivaliser avec le sien. Et c’est précisément là que commence le vertige.
Dangers réels et catastrophes imaginées
La crainte de voir les créations humaines échapper à leurs créateurs n’est pourtant pas nouvelle. En 1818, Mary Shelley publiait ‘‘Frankenstein ou le Prométhée moderne’’, roman fondateur dans lequel un savant donne naissance à une créature qu’il ne parvient plus à maîtriser. Un siècle plus tard, l’écrivain tchèque Karel Čapek popularisait le mot ‘‘robot’’ dans sa pièce ‘‘R.U.R.’’, où des êtres artificiels finissent par se révolter contre leurs fabricants. Puis vint le cinéma, avec ses machines rebelles, d’HAL 9000 dans ‘‘2001 : l’Odyssée de l’espace’’ à Skynet dans ‘‘Terminator’’. Partout, la même obsession : l’Homme invente un serviteur qui finit par devenir son maître.
Cependant, l’intelligence artificielle contemporaine ajoute une dimension inédite à cette vieille angoisse. Contrairement aux machines traditionnelles, elle pourrait disposer de capacités cognitives supérieures à celles de ses concepteurs. Le véritable danger ne résiderait donc pas nécessairement dans une révolte spectaculaire des robots, façon Hollywood, mais dans une perte progressive de maîtrise.
Des systèmes toujours plus autonomes pourraient prendre des décisions incompréhensibles pour leurs utilisateurs, manipuler des informations, exploiter des failles informatiques ou coordonner des actions à une vitesse dépassant les capacités humaines de surveillance. Bien qu’elle reste hypothétique, cette perspective soulève une interrogation légitime : comment contrôler durablement une intelligence qui pourrait devenir plus performante que ceux chargés de la surveiller ?
La difficulté est d’autant plus grande que la course à l’IA n’obéit pas seulement à la logique du progrès scientifique. Elle s’inscrit dans une compétition économique, industrielle et géopolitique féroce. Les géants technologiques veulent conquérir des marchés. Les États cherchent à préserver leur souveraineté. Les armées entrevoient des avantages stratégiques décisifs. Dans cette course, la prudence risque d’apparaître comme un handicap face à des concurrents moins scrupuleux.
Cependant, à force de scruter l’horizon d’une hypothétique extinction de l’humanité, ne risque-t-on pas de négliger des menaces déjà bien réelles ? L’intelligence artificielle facilite la production industrielle de fausses informations, la fabrication d’images et de vidéos truquées, l’usurpation d’identité et certaines formes sophistiquées de cybercriminalité. Elle peut renforcer les capacités de surveillance des États autoritaires, automatiser et généraliser des discriminations et concentrer un pouvoir économique considérable entre les mains d’une poignée d’entreprises.
La question n’est donc pas seulement de savoir si l’IA pourrait un jour exterminer l’humanité. Elle est aussi de déterminer ce qu’elle risque de faire, dès aujourd’hui, à nos démocraties, nos économies et notre rapport à la vérité. Car une société dans laquelle il devient impossible de distinguer une image authentique d’une fabrication, une information vérifiée d’une manipulation ou une parole humaine d’une imitation algorithmique se dirige vers une gravissime crise de confiance.
Technophobie VS. béatitude numérique
Faut-il, pour autant, céder à la panique et réclamer l’arrêt du développement de l’intelligence artificielle ? Ce serait oublier que cette technologie ouvre également des perspectives considérables dans la médecine, la recherche scientifique, l’éducation ou la lutte contre le changement climatique. Elle contribue déjà à accélérer certaines découvertes, à améliorer l’analyse d’images médicales, à explorer de nouvelles molécules et à rendre accessibles des connaissances autrefois réservées à quelques spécialistes.
La condamner en bloc reviendrait à vouloir interdire l’électricité au motif qu’elle peut électrocuter, ou l’aviation parce que les avions peuvent s’écraser.
L’Histoire nous livre un enseignement plus nuancé : les technologies ne sont ni intrinsèquement salvatrices ni nécessairement destructrices. Leurs effets dépendent des usages que les sociétés en font, des intérêts qui orientent leur développement et des règles qu’elles parviennent à leur imposer.
Cela ne signifie pas que toutes les peurs soient irrationnelles. Les catastrophes industrielles, les accidents nucléaires ou les dérives des réseaux sociaux rappellent que les promesses du progrès peuvent s’accompagner de dommages considérables.
Au fond, la question « faut-il avoir peur de l’intelligence artificielle ? » est peut-être mal posée. Car ce qui devrait nous inquiéter n’est pas uniquement l’éventualité qu’une machine acquière un jour une intelligence supérieure à la nôtre. C’est aussi la possibilité que des hommes, parfaitement humains et nullement artificiels, utilisent cette puissance sans discernement, sans contrôle démocratique et sans considération pour ses conséquences.
L’humanité n’a pas attendu l’invention de l’IA pour perfectionner les instruments de sa propre destruction. Elle a inventé les armes nucléaires, les guerres industrielles et les systèmes de surveillance de masse avec sa propre intelligence naturelle.
Et si le danger le plus immédiat n’était finalement pas que les machines deviennent trop intelligentes, mais que les Hommes se montrent incapables de l’être suffisamment pour les maîtriser ?
Après tout, avant de redouter le jour où l’intelligence artificielle pourrait prendre le pouvoir, il serait peut-être utile de s’interroger sur l’intelligence et le discernement de ceux qui le détiennent déjà.
