« Après la guerre en Ukraine et à Gaza, la guerre en Iran apparaît comme une étape supplémentaire du recours de plus en plus systématique à l'IA par les grandes puissances militaires », relève Laure de Roucy-Rochegonde, directrice du Centre géopolitique des Technologies de l'Institut français des Relations internationales (Ifri), et auteure de « la Guerre à l'ère de l'Intelligence artificielle » (PUF, 2024). On assiste à une autonomisation des systèmes d'armes, tous avec une forte marge d'erreur et un discernement humain sans cesse réduit...  Ainsi, en Ukraine, sur les lignes de front, comme les communications sont systématiquement brouillées pour éviter l'envoi de drones kamikaze pilotés, on assiste au développement de drones autonomes dont la dernière centaine de mètres de pilotage est effectuée par une IA.

[…]

« Le problème, c'est l'effet boîte noire des algorithmes, poursuit Laure de Roucy-Rochegonde. Même si un militaire prend toujours la décision de tuer, il se base sur le ciblage établi par une machine, et qui repose sur des informations dont il ne dispose pas, ce qui revient à décider à l'aveugle. » Le risque n'est donc pas - pour l'heure - un système d'armement totalement autonome qui identifierait et éliminerait des « cibles », mais la paresse intellectuelle qui conduit à valider sans discernement le raisonnement de l'IA qui se traduit de manière létale - à Gaza, les soldats oeuvrant avec l'IA n'avaient dans certains cas « pas plus de 20 secondes » pour s'assurer qu'une cible désignée était bien légitime.

[…]

L'avertissement est resté lettre morte de l'autre côté de l'Atlantique. L'été dernier, le Pentagone a signé de juteux contrats avec les principaux fournisseurs d'IA - Anthropic, OpenAI, Google et xAI - pour un usage militaire « de pointe ». « On assiste à une véritable course à l'armement augmenté à l'IA sans aucun garde-fou, ce qui n'est pas sans rappeler la course aux armes nucléaires durant la guerre froide, insiste Laure de Roucy-Rochegonde. Sauf qu'à la différence du nucléaire, la plupart des pays peuvent développer des armes autonomes avec les IA actuelles... » L'extermination de l'humanité par l'IA, un risque pris au sérieux par Dario Amodei, le PDG d'Anthropic.

[…]

>> Lire cet article en intégralité sur le site Le Nouvel Obs