Et si le progrès technologique devenait le fossoyeur de l’espèce humaine ? L’idée a longtemps nourri les scénarios les plus sombres d’Hollywood. La voici qui entre par la grande porte des rapports scientifiques les plus sérieux. La revue médicale The Lancet en livre, dimanche 11 octobre, une évaluation. Au terme d’une modélisation rigoureuse, non exempte de limites, une commission d’experts a identifié 15 « menaces catastrophiques » compromettant la santé et la prospérité humaines d’ici à 2100.

En tête figure le trio obésité, mauvaise alimentation et sédentarité, suivies par le faible niveau d’éducation et les inégalités de revenus. Deux menaces se détachent du lot par leur potentiel d’extinction massive : l’usage malveillant de l’intelligence artificielle (IA), notamment pour concevoir des agents biologiques pathogènes, et un conflit nucléaire entraînant une famine nucléaire (par injection de particules dans la haute atmosphère bloquant la lumière du soleil).

« La malveillance de l’IA et le conflit nucléaire avec famine nucléaire portent des risques d’extinction dans les 75 prochaines années », écrit le rapport. Leur probabilité reste faible, mais leurs conséquences potentielles sont « sans commune mesure », au point de faire peser sur l’humanité la menace d’une véritable « apocalypse », souligne un éditorial accompagnant le texte. Faut-il donc vraiment redouter que la guerre nucléaire et l’IA pervertie sonnent le glas de l’humanité d’ici à 2100 ? Héloïse Fayet, chercheuse et responsable du programme Dissuasion et prolifération à l’Ifri, éclaire la situation pour « Le Point ».

La double menace

L’arme nucléaire n’a rien d’une nouveauté ; le contexte géopolitique, lui, s’est détérioré. Comme le rappelle Héloïse Fayet : « Le risque de guerre nucléaire est consubstantiel à celui de l’existence des armes elles-mêmes. Par rapport au début du XXIe siècle, la croissance des arsenaux nucléaires, en particulier en Asie, et la compétition stratégique que se livrent les États dotés de l’arme nucléaire font augmenter ce risque. »

L’intelligence artificielle introduit une incertitude d’un autre ordre. Loin du cliché de la machine décidant seule de déclencher une frappe, le danger réside dans la manipulation de l’environnement de décision : « C’est bien le cadre de cette prise de décision qui pourrait évoluer, avec une accélération du processus, une surcharge cognitive, et une analyse proposée par les algorithmes sans transparence. C’est dans cette “prise de décision élargie” que se trouve l’un des principaux angles morts du débat. »

Oubliez la « destruction mutuelle assurée » de la guerre froide. Les doctrines contemporaines se sont assouplies, ouvrant la voie à des concepts bien plus périlleux. « Cela fait des années que nous ne sommes plus dans une “destruction mutuelle assurée” : la Russie et les États-Unis ont adopté des doctrines nucléaires beaucoup plus flexibles, avec l’idée qu’il serait acceptable d’employer des armes nucléaires dites “tactiques” […] sans provoquer de guerre nucléaire totale. Il est possible que l’IA, la modification des perceptions qu’elle engendre, et l’accélération du cycle décisionnel provoquent une escalade plus rapide du conflit conventionnel à une guerre nucléaire limitée. »

« Pour les armes biologiques, la logique de dissuasion n’existe pas »

[...]

> Lire le reste de l'article sur le site du Point.