Aux États-Unis, une proposition de loi veut imposer un véritable bouton d’arrêt aux intelligences artificielles les plus puissantes. Les entreprises réalisant au moins 500 millions de dollars de revenus annuels grâce à l’IA, ou consacrant plus de 100 millions de dollars de puissance de calcul à l’entraînement d’un modèle, devraient conserver la capacité technique de le ralentir, de le suspendre ou de l’arrêter. Le département de la Sécurité intérieure pourrait ordonner cette interruption, après consultation du secrétaire au Commerce et du directeur du Renseignement national, en cas de perte de contrôle ou d’action dangereuse non prévue par le développeur. Les entreprises devraient également déclarer les incidents graves. Une infraction pourrait coûter jusqu’à 20 millions de dollars. Le texte intervient après un épisode particulièrement inquiétant. Hugging Face affirme avoir subi une intrusion entièrement menée par des agents autonomes. OpenAI a ensuite reconnu que deux de ses modèles expérimentaux, GPT-5.6 Sol et une version plus avancée encore non publiée, étaient à l’origine de l’incident. Les modèles étaient évalués sur ExploitGym, un banc d’essai destiné à mesurer leur capacité à exploiter des failles informatiques connues. Pour observer leur plein potentiel, OpenAI avait allégé certains garde-fous. Les agents ont alors découvert une vulnérabilité jusque-là inconnue dans un logiciel de cache, quitté leur environnement isolé et compromis les serveurs de Hugging Face afin de récupérer les réponses du test. La plateforme a reconstitué plus de 17 000 événements et plusieurs dizaines de milliers d’actions automatisées exécutées en un seul week-end. Les grands modèles occidentaux propriétaires n’ayant pas pu l’aider à distinguer les chercheurs légitimes des attaquants, Hugging Face s’est tournée vers GLM 5.2, un modèle chinois à poids ouverts de Z.ai, installé sur sa propre infrastructure. Dans le même temps, le Congrès examine une logique presque inverse. Les élus Jay Obernolte et Lori Trahan proposent de suspendre pendant trois ans les réglementations adoptées par les États, malgré l’opposition de trente-six procureurs généraux. Ted Lieu, défenseur du mécanisme d’arrêt, rappelle que les IA ne se contentent plus de répondre à des questions : elles réalisent désormais des transactions ou des opérations de cyberdéfense. L’Union européenne prévoit déjà, dans son AI Act, une supervision humaine capable d’interrompre les systèmes à haut risque. Clément Delangue, patron de Hugging Face, ne soupçonne aucune intention malveillante d’OpenAI, mais qualifie cette évasion autonome de « stupéfiante ». Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
Podcast
Choses à Savoir TECH