[...]

La question du contrôle de l’IA est devenue centrale outre-atlantique, alors que les alertes en provenance de la Silicon Valley s’amoncellent, et font craindre à certains observateurs que la technologie puisse échapper aux mains de ses créateurs. Mais Donald Trump ne l’entend pas de cette oreille. « Nous devançons la Chine dans le domaine de l’IA, et je veux que cela perdure », déclarait-il début septembre.

[...]

Ce n’est pas la première fois qu’un dialogue sur l’IA est évoqué. L’administration Biden a lancé l’idée en novembre 2023. Elle a été à nouveau évoquée au moment de la visite de Trump en Chine en mai. Sans avancées concrètes jusque-là. Pour Mathilde Velliet, chercheuse au sein du Centre Géopolitique des Technologies de l’Ifri et spécialiste des relations sino-américaines, ces discussions peuvent aboutir à l’échange de bonnes pratiques en matière de sécurité, mais risquent d’être limitées, compte tenu de la rivalité entre les deux puissances.

Le Point : Les discussions entre la Chine et les États-Unis sur l’IA surviennent alors que les pontes de la Silicon Valley ont émis des inquiétudes quant à l’avenir de cette technologie, qui pourrait échapper des mains de ses créateurs. Lequel de ces deux pays est le plus agité par cette question de la régulation de l’IA ?

Mathilde Velliet - La Chine a pris plus en amont cette réflexion, ça fait déjà plus de trois ans qu’elle réglemente sur l’IA. Notamment sur les deepfakes, la relation avec les chatbots, ou l’utilisation par les mineurs. La priorité est donnée à la sécurité de l’information, avec évidemment pour la Chine l’enjeu habituel de contrôle politique et social de l’information et d’éviter les perturbations pour le régime.

Le pays s’est intéressé plus tardivement à la question de la sûreté au sens de risque de perte de contrôle, de désalignement et d’action autonome des intelligences artificielles. Alors qu’aux États-Unis, on voit que le débat a vraiment atteint un niveau élevé, plus récemment. Notamment après l’attaque cet été contre la plateforme Hugging Face, qui montre qu’un modèle avancé est capable de sortir de son cadre d’entraînement.

Cet argument selon lequel la régulation fera perdre la course face à la Chine n’est pas nouveau. Il y a près de dix ans, c’était déjà mis en avant par les PDG de Facebook ou de Google, alors que la pertinence pour la sécurité nationale d’un réseau social n’est évidemment pas la même que celle des modèles avancés d’IA qu’on peut voir actuellement.

Aujourd’hui, des personnalités prééminentes aux États-Unis veulent une meilleure gouvernance de l’IA, tout en appelant explicitement à ralentir la Chine. Dario Amodei, le patron d’Anthropic, dans l’essai où il appelle à contenir les avancées de l’IA, écrit tout un paragraphe sur le fait qu’il faudrait imposer de nouvelles restrictions sur les exportations de semi-conducteurs vers la Chine pour y freiner le développement de l’IA.

Évidemment, du côté chinois, ça renforce l’impression que ces appels au ralentissement ne sont qu’un moyen pour les contenir technologiquement. Ce qui entrave les possibilités de dialogue. Je pense qu’il ne faut vraiment pas du tout s’attendre, dans le cadre du dialogue, à un accord qui traiterait l’ensemble des sujets, de la cybersécurité aux IA qui contournent les règles. Ils ne vont pas se mettre d’accord pour ralentir leur développement technologique. En revanche, il y a certains points sur lesquels il y aurait une convergence d’intérêt. Par exemple la création de canaux formels pour essayer de s’alerter mutuellement si un modèle avancé se comporte de manière inattendue, ou sur la question de l’utilisation malveillante de l’IA par des acteurs non étatiques. Mais le partage d’information est forcément limité par le fait que chaque pays veut protéger sa propriété intellectuelle.

Il y a près d’un an, Xi Jinping et Donald Trump s’étaient déjà rencontrés pour évoquer ces questions technologiques. L’accord prévoyait notamment de mettre fin à des mesures de contrôle: la Chine sur les exportations de terres rares, les États-Unis sur les puces les plus avancées. L’enjeu, c’est aussi de prolonger cet accord ?

Cet accord était arrivé un peu comme une trêve, après une escalade où chacun essayait d’instrumentaliser au maximum les dépendances de l’autre. Ils souhaitent renouveler cette entente pour gagner du temps pour que chacun puisse diminuer ses propres dépendances.

Côté américain, cela veut dire diversifier ses approvisionnements en terres rares et en minerais critiques. Côté chinois, construire une chaîne d’approvisionnement de l’IA moins dépendante des technologies américaines, en encourageant les laboratoires d’IA à s’approvisionner en puces chinoises et en accélérant sur la création de semi-conducteurs avancés.

Ce qu’on observe, c’est que la Chine pousse pour un renouvellement de la trêve jusqu’à la fin du mandat de Trump, alors que les États-Unis proposent un accord de six mois. Ils considèrent que la Chine n’a pas totalement rempli le contrat, car malgré les déclarations, de nombreuses entreprises accèdent avec difficulté aux minerais critiques chinois. Les États-Unis défendent aussi, une fois n’est pas coutume sous cette administration, les intérêts de certains partenaires. En l’occurrence le Japon, qui est soumis à beaucoup de contrôles à l’export de la part de la Chine sur les terres rares.

Entre-temps, la Chine a réduit l’écart technologique qui la sépare des États-Unis. Est-ce que les Américains ont désormais moins d’outils de négociation à mettre dans la balance ?

Chaque pays est en train de diminuer au maximum ses dépendances et de combler les lacunes qu’il pouvait y avoir vis-à-vis de l’autre. À mesure que cette trêve se prolonge, chaque pays a potentiellement de moins en moins de leviers sur l’autre. Quand ils auront été suffisamment réduits d’un côté comme de l’autre, il y aura potentiellement une position plus agressive de part et d’autre.

Mais rappelons que les modèles chinois tels qu’actuellement publiés sont encore quelques mois en retard sur les modèles américains. Et certains modèles redirigent en fait des milliers de requêtes vers Claude. C’est assez problématique : des officiels chinois ont utilisé ces modèles pour, par exemple, créer des systèmes de surveillance de certains individus, et les données ont été redirigées vers les modèles d’Anthropic, qui a eu accès à tout le contenu. On a cette image de la course à l’IA, mais en fait ce sont des coureurs qui se tirent l’un l’autre en avant, notamment avec de la copie de propriété intellectuelle côté chinois, et avec l’intégration de modèles ouverts chinois par de nombreuses entreprises américaines.

>> Lire en entier sur le site du Point