Bill Gates veut convaincre Washington et Pékin de s’entendre sur une ligne rouge : certains modèles d’intelligence artificielle pourraient devenir trop dangereux pour être diffusés librement. Et il espère porter lui-même ce message à Xi Jinping dès novembre. Bonjour à toutes et à tous. Le cofondateur de Microsoft a confirmé à Reuters que son équipe travaillait à une nouvelle rencontre avec le président chinois. Les deux hommes s’étaient déjà vus à Pékin en 2023. Ce qui inquiète Gates n’est pas simplement ChatGPT qui remplace quelques tâches de bureau. Il vise des capacités beaucoup plus sensibles : des IA capables de mener des cyberattaques ou d’aider à concevoir des molécules utilisables dans une attaque biologique. Son idée est donc de surveiller les modèles les plus puissants avant leur diffusion et, si nécessaire, d’en restreindre l’accès. Gates estime que la Chine pourrait accepter ce principe à condition que les États-Unis imposent eux-mêmes des contraintes comparables. C’est là tout le problème. Une règle américaine qui ne s’appliquerait pas en Chine pourrait pousser les laboratoires chinois à accélérer. Et l’inverse serait tout aussi vrai. Dans cette course technologique, la sécurité devient un dilemme classique : chacun peut souhaiter ralentir, mais personne ne veut ralentir seul. Gates propose donc d’aller plus loin avec une organisation internationale consacrée à l’IA. Il imagine un système empruntant à la fois aux inspections nucléaires, aux règles mondiales de l’aviation et aux accords internationaux sur l’environnement. Ce projet reste pour l’instant une proposition personnelle. Bill Gates n’a évidemment aucun mandat diplomatique américain. Et créer un système permettant de contrôler réellement les modèles développés aux États-Unis comme en Chine supposerait notamment de définir ce qu’est une IA « dangereuse », comment tester ses capacités et ce que les États accepteraient de révéler. L’Europe, elle, a déjà commencé ce travail. Depuis le 2 août, l’AI Act permet d’imposer aux modèles présentant un risque systémique des évaluations, des tests adversariaux, des mesures de cybersécurité et une obligation de signaler certains incidents graves. Mais l’Europe ne peut pas régler seule un risque mondial. L’ONU a d’ailleurs lancé en juillet son premier Dialogue mondial sur la gouvernance de l’IA. La nouveauté est donc moins la peur exprimée par Bill Gates que le changement de nature du débat. Réguler l’IA ne signifie plus seulement encadrer ce que font les entreprises avec nos données. Il s’agit désormais de savoir si les grandes puissances peuvent accepter de contrôler ensemble une technologie qu’elles considèrent précisément comme stratégique. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
Podcast
Choses à Savoir TECH