[...]

Un débat en partie porté, ces derniers mois, par le positionnement atypique d’Anthropic, cette start-up fondée en 2021 par des anciens d’Open AI, engagée dans un rapport de force à avec le département de la défense américain. En janvier, Anthropic avait refusé que certains de ses modèles soient utilisés pour des « armes autonomes » ou de la surveillance de masse. En rétorsion, vendredi 12 juin, l’administration américaine a exigé qu’Anthropic coupe l’accès de son dernier modèle d’IA aux ressortissants étrangers, invoquant des risques pour sa sécurité nationale : une décision sans précédent.

A Genève, la réunion qui doit avoir lieu se fait sous l’égide du bureau des affaires de désarmement des Nations unies. Elle intervient dans le cadre d’une résolution inédite de l’Assemblée générale de l’ONU, adoptée en décembre 2025, intitulée : « L’intelligence artificielle dans le domaine militaire et ses implications pour la paix et la sécurité internationales ». C’est la première fois que des discussions sur ce sujet se font dans le cadre d’un mandat clair, avec un objectif relativement précis à l’arrivée : l’espoir d’obtenir l’ouverture, d’ici la fin décembre, de négociations pour ajouter un « protocole additionnel » sur l’IA à la convention dite « sur certaines armes classiques » (CCAC).

[...]

« Je ne crois pas que l’on puisse mettre en place des garde-fous très techniques et concrets à ce stade », estime de son côté Laure de Roucy-Rochegonde, chercheuse à l’institut français des relations internationales. « En revanche, il y a un bien une conjoncture favorable pour des évolutions », ajoute l’autrice de La Guerre à l’heure de l’intelligence artificielle (PUF, 2024), appelant à ne pas négliger l’impact moral de l’encyclique sur l’IA du pape Léon XIV, Magnifica Humanitas, publiée le 25 mai. Le texte s’alarmait notamment du fait que l’IA risquait de rendre « plus impersonnelle la décision sur la vie et la mort », tout en présentant « le recours à la force comme une option immédiate et réalisable ».

Pour Mme de Roucy-Rochegonde, ce qui pourrait fonctionner, « ce sont des accords-cadres sur les risques de l’IA considérés comme inacceptables, avec par exemple des normes sur les ratios de proportionnalité vis-à-vis des victimes collatérales. (…) Les Etats pourraient s’accorder sur ce qu’ils ne veulent surtout pas voir advenir en matière de systèmes d’armes, ce serait au moins le début de quelque chose ». Avant de conclure : « Aujourd’hui tout le monde a peu de Terminator mais personne ne veut l’interdire. L’articulation entre l’IA et le nucléaire est déjà l’un des très rares sujets discutés en bilatéral entre les Etats-Unis et la Chine aujourd’hui. »

>> Retrouvez cet article en intégralité sur le site du Monde.