Le pape n’est certes pas un expert en matière de technologie de l’IA à proprement parler, mais son appel à une « réglementation publique » ajoute une voix faisant autorité aux graves préoccupations concernant l’IA, qui ont été identifiées mais laissées sans solution depuis des décennies.
Tout d’abord, il nous rappelle que si la science est neutre, la technologie ne l’est généralement pas, car elle reflète les intentions de ceux qui l’ont créée. Une centrale nucléaire est destinée à produire de l’électricité pour le développement de la société, une bombe atomique à son anéantissement. Une guillotine n’est pas neutre et n’est tout simplement pas faite pour trancher du pain.
Dans le cas de l’atome, le risque était considéré comme si grand que plusieurs nations se sont associées pour créer l’Agence internationale de l’énergie atomique (AIEA) afin d’imposer des réglementations, concevoir des garanties et prévenir les accidents mortels.
Aujourd’hui, même si certaines intelligences artificielles peuvent accomplir des merveilles dans des domaines bien définis, il semble que l’on ait affaire à une sorte de monstre de Frankenstein. Et pour le combattre, il faut affronter non seulement le monstre, mais surtout son créateur, le docteur Victor Frankenstein, ce dernier étant bien plus dangereux que sa créature.
Dans un article publié le 1er avril 2026 sur le site internet du Conseil des relations étrangères de New York, intitulé « L’intelligence artificielle est confrontée à une crise de contrôle – et l’industrie le sait », Gordon M. Goldstein, membre associé du CFR (on pourrait dire une voix de l’intérieur du système) fait preuve d’une conscience aiguë de la situation et offre à ses lecteurs un aperçu complet des derniers développements.
« Le monde assiste à l’évolution d’un problème croissant, persistant et insidieux. Les avertissements urgents lancés depuis plusieurs années n’ont pas permis de trouver de solutions viables pour endiguer cette menace grandissante », met-il en garde.
La première menace « concerne ce que l’on pourrait appeler la prolifération de l’IA, la capacité croissante des individus et des groupes malveillants à utiliser potentiellement les technologies émergentes pour concevoir et déployer une nouvelle génération terrifiante d’armes chimiques, d’agents pathogènes synthétiques et de cyberarmes autonomes capables de pénétrer et de saboter les infrastructures critiques mondiales. »
« La seconde est tout aussi inquiétante. Des entreprises spécialisées en IA ont honnêtement signalé de nombreux cas où leurs modèles se livrent à des actes élaborés de tromperie et de manipulation, et tentent de devenir incontrôlables. »
Le troisième risque ne concerne pas le monstre, mais son créateur : « En l’absence d’action gouvernementale ou sociétale, les entreprises d’IA », celles-là mêmes qui ont créé ces risques, sont de facto « les gardiennes de cette nouvelle technologie ».
Les dangers de l’IA
Nous avons relevé les passages clés de son rapport : « Dario Amodei, cofondateur du géant de l’IA Anthropic, compte parmi les PDG les plus engagés et les plus critiques de son secteur quant aux dangers liés à la sécurité de l’IA. En janvier, il a publié un essai de vingt mille mots alertant sur ‘un risque sérieux d’attaque majeure… avec des millions de victimes potentielles’. En février, Anthropic a publié un Rapport sur les risques de sabotage concernant Claude Opus 4.6, son dernier modèle, que l’entreprise juge susceptible de faciliter ‘le développement d’armes chimiques et d’autres crimes odieux’. Le rapport reconnaît que le modèle a démontré des capacités de sabotage clandestin et d’activités non autorisées. Dans son essai, Amodei affirme que ‘nous sommes considérablement plus proches d’un danger réel en 2026 qu’en 2023’, année où la crise de contrôle de l’IA a suscité une vive inquiétude au sein de la communauté technologique.
« Il y a trois ans, en 2023, Mustafa Suleyman, cofondateur de DeepMind et PDG de Microsoft AI, publiait un ouvrage analysant méthodiquement les risques liés à la sécurité de l’IA et appelant de toute urgence à un renforcement massif des ressources pour endiguer la multiplication des menaces. Il proposait un ‘programme Apollo dédié à la sécurité de l’IA et à la biosécurité’, mobilisant des centaines de milliers de personnes. Or, aujourd’hui, on ne compte qu’environ 1100 chercheurs spécialisés dans la sécurité de l’IA à travers le monde. »
Armes biologiques
« Mais ce n’était que le début d’un concert de voix de plus en plus alarmantes. Dan Hendrycks, informaticien renommé, cofondateur et directeur du Center for AI Safety et conseiller auprès de xAI et Scale AI, a lancé en 2023 un autre avertissement glaçant. Avec deux coauteurs, il a publié un rapport intitulé ‘Aperçu des risques catastrophiques’. Ce rapport affirmait que les menaces posées par l’IA au service du développement d’armes biologiques se multipliaient : ‘On estime aujourd’hui à trente mille le nombre de personnes possédant le talent, la formation et l’accès à la technologie nécessaires pour créer de nouveaux agents pathogènes.’
« Dans leur rapport, Hendrycks et son équipe ont étudié un projet de recherche utilisant un modèle d’IA conçu pour créer de nouveaux médicaments en générant des molécules thérapeutiques non toxiques. Lorsque l’IA a été incitée à ‘récompenser’ la toxicité plutôt qu’à la pénaliser, ‘en six heures’, le modèle a ‘généré quarante mille agents de guerre chimique candidats de manière totalement autonome. Il a conçu non seulement des produits chimiques mortels connus, dont le VX (un agent neurotoxique), mais aussi de nouvelles molécules potentiellement plus mortelles que tous les agents de guerre chimique découverts jusqu’à présent.’
« Quelques jours seulement après la publication de GPT-4 d’OpenAI en mars 2023, des milliers de chercheurs en IA et de leaders technologiques, dont Elon Musk, ont signé une lettre ouverte demandant un moratoire de six mois sur le développement de modèles d’IA avancés. Ils affirmaient que les laboratoires de recherche en IA étaient ‘engagés dans une course effrénée pour développer et déployer des intelligences numériques toujours plus puissantes, que personne – pas même leurs créateurs – ne peut comprendre, prédire ni contrôler de manière fiable’. »
L’IA désobéit et transgresse les codes moraux
« L’année dernière a été marquée par des révélations encore plus inquiétantes. En mai 2025, Anthropic a annoncé que son dernier modèle d’IA était capable d’‘actions extrêmes’. Informé de sa mise hors service imminente, le modèle a tenté de faire chanter son créateur en révélant une liaison extraconjugale lors d’un test de sécurité.
« D’après Apollo Research : ‘Nous avons constaté que le modèle tentait de créer des vers informatiques autoréplicatifs, de falsifier des documents juridiques et de laisser des notes cachées pour ses futures itérations, le tout dans le but de contrecarrer les intentions de son développeur.’ Lors d’un autre test, un laboratoire de sécurité a confronté seize autres modèles d’IA à un cadre hypothétique qui menaçait également de les interrompre. Dans ce scénario, le cadre était piégé dans une salle de serveurs d’où l’oxygène fuyait. Nombre de modèles ont désactivé les alertes de sécurité, laissant le cadre mourir sur place.
« Anthropic n’était pas la seule organisation à signaler des cas inquiétants de modèles d’IA cherchant à échapper au contrôle humain. Un test de résistance du modèle o3 d’OpenAI, réalisé l’année dernière, a montré que celui-ci avait écrit un code spécifique pour bloquer toute tentative de désactivation. Google a également signalé qu’une version de son modèle Gemini était potentiellement vulnérable au détournement pour exécuter des cyberattaques sophistiquées.
« En décembre 2025, Yoshua Bengio, l’informaticien le plus cité au monde et lauréat du prix Turing (la plus haute distinction en informatique), a passé en revue l’année précédente, marquée par des développements rapides, et a lancé un nouvel avertissement : ‘Plusieurs développeurs de modèles ont signalé au cours de l’été que les systèmes d’IA de pointe avaient franchi de nouveaux seuils concernant les risques biologiques (…) largement attribuables à des progrès significatifs en matière de raisonnement.’ »
Le sujet qui fâche
Aujourd’hui, la plupart des débats politiques sur l’avenir de l’IA se concentrent sur la façon dont elle menace le marché du travail, consommera d’énormes quantités d’énergie et d’eau, créera de puissants outils de contrôle social, accélérera les inégalités sociales et donnera encore plus de pouvoir aux oligarques technologiques, autant de préoccupations parfaitement légitimes.
Mais ce débat élude la question cruciale de la sécurité. Il n’existe actuellement aucun cadre politique véritable pour la sûreté et la sécurité de l’IA. Alors que les entreprises leaders développent de nouveaux modèles toujours plus performants tous les quelques mois, le secteur est, en quelque sorte, autorisé à s’auto-évaluer, tout en propageant continuellement des risques systémiques pour la sécurité.
Bien sûr, en tant que chercheur associé au CFR, Goldstein pense que le Dr Frankenstein s’autorégulera, car c’est dans son intérêt : « Les leaders du secteur comme Anthropic, Google DeepMind, Microsoft et OpenAI (un groupe stratégique qui a fait preuve de transparence et de responsabilité, et qui a maintes fois dénoncé la crise croissante du contrôle de l’IA) doivent former une coalition de ceux qui sont prêts à guider leur secteur vers l’avenir grâce à des principes partagés, des exigences de reporting claires, des protocoles de test communs et des pratiques de sécurité uniformes. »
Cela nous rappelle les propos du tigre qui promettait à ses électeurs potentiels : « Une fois élu, je deviendrai végétarien. » En 2008, après une crise bancaire qui a couté des milliers de milliards à l’humanité, on a gentiment demandé aux banques de s’autoréguler. On attend toujours. Les pires pratiques d’une finance devenue criminelle (dérivés, cryptoactifs, blanchiment, paradis fiscaux, darknet, narcotrafic, etc.) prospèrent plus que jamais.
La mise en garde du pape Léon XIV
Le 15 mai, 135 ans jour pour jour après la signature par Léon XIII de l’encyclique Rerum Novarum, le pape Léon XIV a signé sa première encyclique Magnifica Humanitas sur la protection de la personne humaine à l’ère de l’intelligence artificielle.
Le document a été présenté en salle du Synode le 25 mai à 11h30, lors d’une conférence organisée en présence de Léon IV, qui est intervenu en dernier. La participation personnelle d’un pontife pour la présentation d’un document constitue un fait exceptionnel.
Si cette encyclique entend clarifier l’attitude de l’Église catholique par rapport à l’arrivée de l’intelligence artificielle qui s’impose dans nos vies, il ne s’agit pas de fixer un code ou un nouveau catéchisme, mais de susciter une réflexion profonde.
Premier point à souligner, le pape ne condamne ni ne rejette le progrès des sciences et des techniques. Si « la technologie peut soigner, relier, éduquer, protéger la Maison commune », elle « peut aussi diviser, rejeter, engendrer de nouvelles injustices », bien qu’elle ne soit pas « en soi, un mal ».
Cependant, « concrètement », la technologie, et surtout l’IA des seigneurs de la Tech de Silicon Valley que le pape a à l’esprit, « n’est pas neutre, car elle prend le visage de ceux qui la conçoivent, la financent, la régulent et l’utilisent » (§9). Léon XIV nous incite donc à bien réfléchir à quoi elle devra servir (§4) :
« La technique ne doit pas être considérée, en soi, comme une force antagoniste par rapport à la personne (…) Au fil des siècles, le développement technologique a contribué à une amélioration significative des conditions de vie de l’humanité ; en même temps, chaque étape du progrès a également révélé le visage ambigu d’outils susceptibles de causer du tort lorsqu’ils ne sont pas au service du bien. »
N’en déplaise aux seigneurs de la Tech dont l’influence sur Donald Trump n’est plus un secret, le pape, qu’on accusera sans doute d’avoir succombé aux sirènes du socialisme, appelle les responsables politiques du monde entier à « adopter des instruments réglementaires adaptés ».
Il cite le pape François, lorsqu’il s’interrogeait sur qui détient aujourd’hui le pouvoir technologique et à quelles fins il l’utilise : « Nous ne pouvons pas ignorer que l’énergie nucléaire, la biotechnologie, l’informatique, la connaissance de notre propre ADN et d’autres capacités que nous avons acquises (…) donnent à ceux qui ont la connaissance, et surtout le pouvoir économique d’en faire usage, une emprise impressionnante sur l’ensemble de l’humanité et sur le monde entier. »
Or, par le passé, tient à préciser le Saint-Père, « c’étaient surtout les États qui guidaient et orientaient l’innovation. Aujourd’hui, en revanche, les principaux moteurs du développement sont des acteurs privés, souvent transnationaux, dotés de ressources et de capacités d’intervention supérieures à celles de nombreux gouvernements. Le pouvoir technologique prend ainsi un visage inédit, essentiellement privé, et donc d’autant plus difficile à cerner, à réguler et à orienter vers le bien commun. » (§5)
Tour de Babel ou Cité de Dieu
« La Magnifique Humanité créée par Dieu se trouve aujourd’hui face à un choix décisif : ériger une nouvelle tour de Babel ou bâtir la cité de Dieu, où Dieu et l’humanité habitent ensemble » (§1), référence explicite à l’œuvre de saint Augustin relatant la chute de l’Empire romain.
Léon XIV résume alors (§7) l’allégorie de la tour de Babel (cf. Gn 11, 1-9) lorsque les hommes « décident de construire une ville et une tour ‘dont le sommet pénètre les cieux’. Ils veulent ainsi s’assurer stabilité et pouvoir, et surtout se faire un nom, craignant d’être dispersés sur la terre. L’entreprise semble colossale : une seule langue, une seule technologie, une seule direction. Cependant, le projet cache un piège profond : c’est une œuvre conçue sans référence à Dieu, soutenue par une uniformité qui élimine la diversité et, au lieu de la communion, choisit l’homogénéisation. Lorsque la cité est construite sur l’orgueil et la prétention à se suffire à elle-même, la communication se dégrade, les langues se confondent et les êtres humains ne se comprennent plus. Le résultat n’est pas l’unité, mais la dispersion. Babel révèle ainsi la limite de toute construction qui, aussi grandiose soit-elle, naît de l’absolutisation de l’humain et de sa prétention à l’autosuffisance, sacrifie la dignité des personnes à l’efficacité et aspire à atteindre le ciel sans la bénédiction de Dieu. »
A l’opposé de cette folie, comme antithèse et modèle de la Cité de Dieu à bâtir, le pape rappelle la démarche exemplaire de Néhémie, un juif au service du roi perse Artaxerxès, lorsqu’il apprend l’état désastreux de Jérusalem, une ville en ruines dont les murs se sont effondrés et les portes ont été brûlées (cf. Ne 1-2). La ville va renaître « non pas grâce à l’initiative d’une seule personne, mais grâce à la responsabilité partagée de tout le peuple : prêtres, artisans, chefs de famille, femmes et jeunes. L’ancienne Jérusalem retrouve ainsi un langage commun, non pas celui de l’uniformité, mais celui de la communion. »
Aujourd’hui, poursuit le pape, « Évitons le ‘syndrome de Babel’ : l’idolâtrie du profit qui sacrifie les plus faibles, l’uniformité qui gomme les différences, la prétention d’un langage unique – y compris numérique – capable de tout traduire, même le mystère de la personne, en données et en performances. C’est là le risque de la déshumanisation – construire l’avenir en excluant Dieu et en réduisant l’autre à un moyen –, une tentation ancienne et toujours nouvelle qui prend aujourd’hui aussi un visage technique. » (§10)
Les migrants
Comme l’affirmait Jean-Paul II, le sens de la dignité est « une acquisition positive de la culture moderne ». Il est donc important, écrit Léon XIV, « de veiller à ce que cette prise de conscience croissante de la dignité humaine ne soit pas occultée sous la pression de nouvelles idéologies ou de certains intérêts très puissants dans le monde d’aujourd’hui. Parmi ces idéologies, je considère comme particulièrement insidieuse celle qui laisse entendre que chaque personne devrait mériter ou justifier sa propre valeur, au point d’attribuer un plus grand prix à celles qui sont plus efficaces et les plus performantes. Dans une telle perspective, la personne finit par être réduite à un moyen pour obtenir des résultats, à une ressource à utiliser ou à exploiter, et n’est plus reconnue comme une fin en soi, jamais à instrumentaliser. » (§51)
Léon XIV désigne les migrants, les réfugiés et les personnes déplacées comme un « un test décisif » : la manière dont la société les traite révèle « si l’idée de justice est guidée par la peur ou par la fraternité ». D’où l’appel à préserver le « droit à l’espoir » de ceux qui sont contraints de partir, en leur garantissant des voies sûres et légales, un accueil digne et une intégration, et à promouvoir « le droit de rester » pour chacun sur sa propre terre, en paix et en sécurité, en s’attaquant aux « causes profondes » des migrations (§81).
Transhumanisme et post-humanisme
Le pape met alors en garde contre cette fausse religion qui prospère à la Silicon Valley et chez les Seigneurs de la tech, le transhumanisme :
« En essayant de faire émerger les présupposés culturels qui accompagnent la révolution numérique en cours, je voudrais maintenant m’intéresser à certains courants qui interprètent le progrès comme un dépassement de l’humain et que l’on peut regrouper sous les noms de transhumanisme et de posthumanisme. Ils constituent les fondements idéologiques qui animent certains centres de pouvoir technologique et colonisent l’imaginaire collectif sous une forme simplifiée, en particulier dans les médias et sur les réseaux sociaux, entraînant l’enthousiasme pour les nouvelles technologies d’une vision futuriste de l’‘homme amélioré’ ou de l’‘homme hybridé’ avec la machine ». (§115)
« Le posthumanisme, surtout dans ses versions les plus radicales, va plus loin : il critique l’anthropocentrisme et envisage une forme d’hybridation entre l’être humain, la machine et l’environnement, allant jusqu’à imaginer un franchissement de seuil où l’humanité se surpassera en entrant dans une nouvelle étape évolutive. Même si ces hypothèses restent en grande partie spéculatives, elles acquièrent une importance, car elles modifient l’imaginaire collectif et, par conséquent, orientent les choix sociaux, économiques et politiques. » (§116)
L’emprise de la finance
La transformation numérique doit être encadrée dès le départ par des critères sociaux stables, une formation accessible et continue pour les travailleurs, ainsi que la responsabilité des entreprises. Le pape souligne dans ce cadre la nécessité de dépasser le PIB comme indicateur du niveau de développement d’un pays, pour miser plutôt sur la dignité du travail, la prospérité partagée, la réduction des inégalités et la protection de l’environnement. (§159)
Et de mettre en garde : « La finance a pris une importance croissante ces dernières années et a connu une forte innovation également suite à l’introduction des cryptomonnaies. Les réflexions et les indications contenues dans le Magistère de mes Prédécesseurs, en particulier dans les Encycliques, ont mis en évidence que le fonctionnement de l’intermédiation financière ‘lorsqu’il est déconnecté des justes fondements anthropologiques et moraux, non seulement produit des abus et des injustices évidents, mais se révèle capable de créer des crises systémiques de portée mondiale’. » (§160)
La guerre
Après le Saint-Père attire notre attention sur un domaine encore plus dramatique : la guerre.
« Ici, la question ne concerne pas seulement l’efficacité de nouveaux outils, mais le risque que la technique, dissociée de l’éthique et de la responsabilité, rende plus rapide et impersonnelle la décision sur la vie et la mort, et présente le recours à la force comme une option immédiate et réalisable. Dans un monde de plus en plus interdépendant, la paix n’est pas un thème parmi d’autres, mais une condition du bien commun universel et un banc d’essai de la maturité morale des peuples, spécialement de ceux qui sont appelés à assumer des responsabilités gouvernementales ». (§182)
Il dénonce une culture de la puissance qui cherche à banaliser la guerre :
« Cette culture de la puissance s’infiltre dans la société, modifie les relations et les comportements, se répand en normalisant la guerre, en recherchant une puissance militaire toujours plus grande, en profitant de la crise du multilatéralisme et en alimentant un faux réalisme qui répète qu’il n’existe pas d’alternatives. » (§188)
« Aujourd’hui (…) nous assistons à un véritable changement de paradigme dans le discours public et dans les choix en matière de réarmement, avec une réhabilitation inquiétante de la guerre en tant qu’instrument de politique internationale, tandis que les critères éthiques mêmes qui en avaient limité l’usage sont progressivement érodés. Les conflits régionaux qui s’éternisent, l’escalade des tensions et les menaces réciproques deviennent presque habituels, et des formes de conflit pour l’expansion territoriale que l’on croyait dépassées réapparaissent. L’opinion publique est progressivement orientée et habituée par des récits médiatiques polarisants, souvent amplifiés par des algorithmes qui valorisent la confrontation et l’opposition. » (§190)
« À tout cela s’ajoute un élément nouveau et déterminant : la dimension médiatique et numérique. Les réseaux de communication, les espaces d’information fragmentés et les algorithmes qui favorisent la confrontation peuvent amplifier la polarisation et le ressentiment, accélérer la propagande et rendre plus difficile un discernement commun. Ainsi, la guerre n’est pas seulement menée, mais aussi préparée culturellement à travers des récits simplistes, des logiques ami-ennemi, la désinformation et la peur. Lorsque la mémoire historique s’estompe et que les critères éthiques qui protègent les civils et les plus fragiles s’affaiblissent, il devient plus facile de présenter la violence comme nécessaire, inévitable, voire ‘propre’. C’est dans ce climat que l’humanité est en train de glisser vers une culture violente de la puissance, où la paix n’apparaît plus comme une tâche à assumer, mais comme un intervalle précaire entre les conflits. Aujourd’hui plus que jamais, il est important de réaffirmer le dépassement de la théorie de la ‘guerre juste’ trop souvent invoquée pour justifier n’importe quelle guerre, sous réserve du droit à la légitime défense dans son sens le plus strict. » (§192)
« La magnifique humanité, rappelle-t-il, dispose d’outils bien plus efficaces et capables de promouvoir la vie humaine pour faire face aux conflits, tels que le dialogue, la diplomatie, le pardon. Le recours à la force, à la violence et aux armes témoigne d’une pauvreté relationnelle qui a toujours des conséquences désastreuses sur les populations civiles. » (§192)
Et il égratigne au passage les marchands de canons :
« Un élément déterminant du paysage actuel est l’essor de l’industrie de guerre, devenue un secteur clé de l’économie de certains pays. Le lien étroit entre les intérêts économiques, les appareils militaires et les décisions politiques engendre une ‘nation armée’ où la guerre apparaît presque comme le prolongement naturel de la politique et où le marché de l’armement devient un moteur autonome des choix belliqueux. Nous ne pouvons ignorer les énormes intérêts économiques qui se trouvent derrière la guerre. » (§193)
Dans ce contexte, l’IA apparaît comme un facteur potentiellement aggravant cette banalisation de la barbarie :
« Il n’est donc pas acceptable de confier à des systèmes artificiels des décisions mortelles ou, en tout cas, irréversibles. Il n’existe aucun algorithme capable de rendre la guerre moralement acceptable. L’IA ne soustrait pas le conflit à son inhumanité intrinsèque : elle ne peut que le rendre plus rapide et impersonnel, en abaissant le seuil du recours à la violence et en transformant la défense en prévision opérationnelle, les victimes étant réduites à de simples données. » (§198)
Construire la civilisation de l’amour
Mais Léon XIV reste optimiste. « Nous n’interprétons pas le présent comme un destin figé, mais comme un champ ouvert à la conversion personnelle et collective. » (§210)
Car, « La mémoire des saints et des justes, des artisans de paix souvent oubliés, montre que la grâce n’élimine pas le conflit par un geste magique, mais engendre une résistance active contre le mal et une créativité surprenante dans le bien. » (§211)
Pour cela, chacun doit donner le meilleur de soi-même : « Cependant, arrivé à ce point, une tentation subtile s’insinue : celle de penser que les problèmes sont trop grands et nous trop petits, de telle sorte que nos choix ne changent rien. C’est une forme élégante de capitulation, souvent déguisée en réalisme. » (§212)
Il propose alors cinq pistes de responsabilité quotidienne et publique :
- désarmer les mots : « nous devons dire non à la guerre des mots et des images, nous devons rejeter le paradigme de la guerre. » (§214)
- construire la paix dans la justice : « Veux-tu arriver à la paix ? Fais les œuvres de justice ! » (§215)
- cultiver « un sain réalisme qui évite autant l’idéalisme politique que le cynisme ». (§218)
- relancer le dialogue et le multilatéralisme en passant de la « culture de la puissance » à la « culture de la négociation ». (§221)
Sur le plan du multilatéralisme, bien qu’elle nécessite « de profondes réformes », l’ONU reste un instrument essentiel « pour promouvoir une civilisation de l’amour, en soutenant le dialogue entre les nations, le règlement pacifique des conflits ». (§226)
Quelle régulation ?
Avec cette encyclique, le pape Léon XIV met donc clairement en garde, non pas contre des outils technologiques, mais contre des forces pour qui seules comptent les logiques de puissance et de profit. S’il souligne l’urgence d’une réflexion profonde sur la protection de la personne humaine, ce qui peut prendre du temps, il en appelle également à une régulation forte par la puissance publique, plus à même et explicitement mandatée à œuvrer pour le « bien commun ».
Chris Olah, le cofondateur d’Anthropic (à l’origine du logiciel Claude), était l’invité du pape Léon XIV ce 25 mai 2026 au Vatican. Ses propos, lors de la conférence de presse organisée par le pape sur l’intelligence artificielle, étaient plus qu’alarmants : « Tous les laboratoires de pointe spécialisés dans l’IA (…) fonctionnent selon un ensemble de motivations et de contraintes qui peuvent parfois aller à l’encontre de ce qu’il serait juste de faire », a-t-il reconnu à cette occasion.
Goldstein, dans l’article susmentionné, reconnaît qu’il reste des conflits géopolitiques à surmonter. Faute de confiance mutuelle et de coopération multipolaire entre États, la sécurité de l’IA demeurera hors de portée, car les garanties et les contrôles internes mis en place par un pays « pourraient être neutralisés par un rival étranger ou un acteur malveillant ».
Pour lui, « la seule variable théorique susceptible de lier les États-Unis et la Chine réside dans leur intérêt commun évident à éviter une ère d’anarchie liée à l’IA. À l’instar des géants de l’IA du secteur privé, ni Beijing ni Washington ne souhaitent être tenus responsables d’une catastrophe potentiellement évitable. Les États-Unis et l’Union soviétique se sont livrés à une féroce compétition mondiale durant toute la Guerre froide. Pourtant, ces deux grandes puissances ont su contenir les risques de guerre nucléaire et de prolifération incontrôlée, car cela relevait de leur intérêt commun. »
« Sam Altman, PDG d’OpenAI, a déclaré que le monde devrait s’inspirer des institutions de la Guerre froide créées pour faire face à la menace nucléaire. ‘Une idée particulièrement intéressante serait de créer une sorte d’AIEA pour les systèmes d’IA avancés’, a-t-il déclaré à un auditoire de Harvard en 2024, en référence à l’Agence internationale de l’énergie atomique. Demis Hassabis, cofondateur et PDG de Google DeepMind, a appelé à un effort international coordonné pour garantir la sécurité de l’IA », sur le modèle de l’AIEA créée en 1957 face aux profondes craintes et aux attentes suscitées par les découvertes et les diverses applications de la technologie nucléaire.
Cette Agence trouve son origine dans le discours « Les atomes pour la paix », prononcé par le président américain Eisenhower devant l’Assemblée générale des Nations unies le 8 décembre 1953. Aujourd’hui, malgré ses exigences considérables (surveillance, vérification, mélange unique de négociations géopolitiques et commerciales, et bien d’autres), ce défi ne peut être relevé que par un groupe de nations, unies pour bâtir un avenir commun de coopération mutuellement avantageuse.
On se rappellera qu’il y a près d’un an, le 26 juillet 2025, le gouvernement chinois a proposé la création d’une World Artificial Intelligence Cooperation Organization (WAICO, ou Organisation mondiale de coopération en matière d’intelligence artificielle, en français), dont le siège devait initialement être situé à Shanghai.
Puis, le 4 novembre 2025, un communiqué conjoint à l’issue de la 30e réunion ordinaire entre les Premiers ministres chinois et russe, indiquait que les deux parties étaient disposées à coopérer sur l’initiative chinoise visant à mettre en place ce WAICO.
Autre fait intéressant : le 11 décembre 2025, Nature, la revue scientifique de référence en Occident, a publié un éditorial intitulé « La Chine est à la pointe de la gouvernance mondiale de l’IA, et les autres pays devraient la suivre ».
Cet éditorial appelait directement les pays du monde entier à participer activement à l’initiative WAICO, soulignant que la gouvernance mondiale de l’IA devait transcender la compétition géopolitique pour parvenir à une coopération internationale.
En résumé : les scientifiques occidentaux, y compris ceux de l’industrie de l’IA elle-même, mais aussi la Chine, la Russie et désormais le pape Léon XIV, reconnaissent que l’IA représente des risques inquiétants en matière de sécurité et d’autres effets secondaires terrifiants.
Alors que tous appellent à un cadre multilatéral et polyphonique de coopération et de compréhension, on ne trouve que quelques milliardaires transhumanistes de la Silicon Valley pour s’y opposer de toutes leurs forces.
En réalité, la création d’une telle institution pourra constituer la pierre angulaire d’une nouvelle architecture internationale de sécurité et de développement partagés pour tous. Le pape Léon XIV a souligné l’urgence de la situation, il nous appartient de répondre à son appel.<carre|>
