Les risques de l’IA. Enjeux discursifs d’une technologie stratégique

Si la vague d’innovations en cours justifie l’intérêt sans cesse renouvelé pour ce vaste amalgame de techniques, l’engouement et l’effroi qu’il suscite se fondent notamment sur des récits qu’il faut pouvoir décrypter. Ces récits tracent des horizons plus ou moins souhaitables selon les contextes. Entre quête d’une science sans limites, mythe de la singularité et risques d’extinction humaine, course à la puissance et peur du déclassement, nombreux sont les narratifs qui orientent aussi bien le développement de ces technologies que leur régulation balbutiante. Mettant aux prises une pluralité d’acteurs (leaders technologiques, États, organisations internationales, groupes de pression, organisations non gouvernementales, etc.), ils prennent le risque de faire naître des attentes disproportionnées et traduisent les profonds clivages de nos sociétés.

Cette étude se propose donc de retracer les principaux débats entourant l’IA aujourd’hui et d’en dégager les grandes lignes de force, afin d’identifier ce qui se joue derrière les discours et positionnements des uns et des autres. Les stratégies déployées sont multiples, allant de l’agitation de la menace géopolitique pour encourager les investissements au détournement de l’attention des régulateurs vers des risques à long terme, en passant par la condamnation ou la promotion de l’IA open source face à la concentration du marché. Il s’agit également d’analyser les risques communément associés au déploiement de ces technologies, qui sont au fondement des récits et des perceptions collectives. Ces risques menacent l’intégrité démocratique, l’environnement, la conduite de la guerre et la cybersécurité.

Cette étude suggère enfin que la bataille de la gouvernance à venir est déjà et continuera d’être profondément orientée par le rôle prescriptif de narratifs permettant de contrôler pour partie les débats politiques. Les États, tiraillés entre ces récits et leurs propres ambitions technologiques, rivalisent d’initiatives mais peinent à faire converger leurs visions. Dès lors, le risque serait de voir cette gouvernance internationale de l’IA réduite à une pure injonction collective et remise sans cesse au lendemain. La politique de sommets d’ampleur mondiale initiée notamment par le Royaume-Uni semble vouloir apporter un début de réponse, dont l’avenir permettra de déterminer si elle sera suivie d’effets.