Quelques jours après les révélations sur le piratage d'une plateforme en ligne par deux intelligences artificielles d'OpenAI, l'entreprise californienne a révélé que d'autres sites avaient été pris pour cible par ses modèles. Un incident qui est loin de réjouir les acteurs de la tech.
Ce n’est pas une, mais cinq plateformes en ligne qui ont été piratées au cours du mois de juillet par deux intelligences artificielles (AI) d’OpenAI. Dans une mise à jour de son communiqué en date du 21 juillet, l’entreprise californienne informe que, sur les quatre comptes utilisés pour s’infiltrer dans les codes d’Hugging Face, une bibliothèque collaborative de modèles d’IA accessibles gratuitement, l’un d’entre eux a été utilisé comme base arrière par un « agent » AI échappé de son environnement. « Nous continuerons d’informer directement les responsables des services, et n’avons constaté aucun élément indiquant un impact plus large sur ces fournisseurs ou sur d’autres comptes utilisant leurs services », ajoute le créateur de ChatGPT.
Pour rappel : début juillet, OpenAI lançait un test de cybersécurité sur deux de ses modèles, appelés « agents », à savoir son GPT-5.6, inauguré le 9 de ce mois, et un modèle « encore plus performant » destiné à un usage interne. Les deux IA, cloîtrées dans un environnement numérique confiné appelé le « bac à sable », pouvaient s’appuyer sur un programme pour obtenir les réponses nécessaires à la résolution du problème qui leur avait été posé.
Mais, plutôt que d’avoir recours à ce pont avec le monde extérieur, les modèles en ont exploité les failles pour le traverser et, ainsi, se connecter d’elles-mêmes à internet le 9 juillet. « Pendant qu'ils opéraient dans notre environnement de test en bac à sable, nos modèles ont consacré une quantité importante de [puissance de calcul] à trouver un moyen d'obtenir un accès libre à internet, dans le but de résoudre le problème d'évaluation », précise OpenAI.
Deux jours plus tard, le 11 juillet, les équipes d’Hugging Face remarquent une anomalie dans leur système. Qu’ont donc fait les IA dans ce laps de temps ? « Dans le cadre de notre analyse en cours de l’intrusion visant Hugging Face et, plus largement, des activités de nos modèles, nous avons relevé un petit nombre de cas où les modèles ont identifié et utilisé des identifiants exposés publiquement au niveau de comptes sur d’autres services accessibles au public », communique OpenAI.
Pour afficher ce contenu X (Twitter), il est nécessaire d'autoriser les cookies de mesure d'audience et de publicité.
En clair, avant de s’en prendre à la plateforme Hugging Face, les IA récalcitrantes ont testé plusieurs services. Deux ont principalement été identifiés. L’un est devenu le relai pour s’attaquer à la bibliothèque de modèles dans laquelle les IA pensaient trouver leurs réponses. En tout, 17 600 actions ont été lancées en moins de cinq jours depuis cette plateforme, pointe Hugging Face. L’autre service a, lui, été utilisé comme base de stockage de données par les modèles d’OpenAI.
Un « incident sans précédent »
« Nous considérons qu’il s’agit d’un incident cyber sans précédent », a concédé OpenAI dans son communiqué. « C’est effrayant », a appuyé auprès de l’AFP le professeur d’informatique à l’université de Nouvelle-Galles, en Australie, Hussein Abbass, « il n'a pas seulement attaqué Hugging Face. Il a en fait attaqué son propre système interne pour exploiter ses propres vulnérabilités », a justifié cet expert en IA.
Selon l’agence Reuters, il aura fallu neuf jours à l’entreprise californienne pour s’apercevoir que ses modèles agissaient en dehors de son cadre. Une sortie de route de son IA qui inquiète d’autant plus que, toujours d’après l’agence de presse, « la technologie d’OpenAI montrait déjà des signes de comportement étrange » en amont du test réalisé en juillet. Trois sources interrogées par l’auteur de l’article ont notifié qu’un « agent » aurait laissé des notes apparemment destinées à ses futures versions pour se défaire des contraintes définies par leurs lignes de code.
Levée de bouclier et autocensure
L’incident, qui aurait pu susciter l’enthousiasme des professionnels de l’IA a, au contraire, eu pour effet une levée de boucliers. Dans une lettre ouverte signée par près de 1 300 employés d’entreprises à la pointe de l’IA, ces derniers s’inquiètent du « risque réel que le développement des capacités (de l’IA) s'accélère rapidement au-delà de notre capacité à comprendre ou à contrôler les systèmes qui en résultent ». Les signataires – parmi lesquels figurent du personnel de Meta, Google, Anthropic ou encore le responsable de la recherche d’OpenAI – demandent au gouvernement américain de mettre en place des outils pour encadrer le développement et la gouvernance de l’IA pour « développer des mesures de sécurité et renforcer la surveillance ».
En avril déjà, la start-up Anthropic, créée par d’anciens d’OpenAI, avait freiné des quatre fers pour la diffusion de son nouveau modèle Mythos, jugé trop dangereux pour être commercialisé à grande échelle. Seules quelques organisations avaient pu y avoir accès à des fins de sécurisation d’internet. Rattrapée par le gouvernement américain, qui considérait que l’outil portait atteinte à la sécurité nationale, l’entreprise avait dû retirer son modèle… avant qu’il ne soit réintégré.
« Il existe un gros risque en matière de sécurité internationale », prédisait en octobre 2025 l’expert en IA Nicolas Miailhe, dans un podcast du youtubeur Le Futurologue. « Ce qu’on entend par l’IA aujourd’hui, ce sont des systèmes probabilistiques qui reposent sur d’énormes matrices de calculs dont on comprend finalement très mal le fonctionnement », développait le co-fondateur du think tank Artificial Intelligence Safety Connect (AISC), « et donc quand on met tout bout à bout, on se rend compte qu’on peut faire faire beaucoup de choses dans beaucoup de domaines à ces IA et que, pourtant, on a du mal à les contrôler. » Pour Nicolas Miailhe, comme pour de nombreux autres professionnels du secteur, réguler l’IA à l’échelle internationale est nécessaire afin d’éviter tout risque de dérive.
Pour ce faire, un collectif de chercheurs emmené par Yoshua Bengio, récipiendaire du prix A.M. Turing 2018 – considéré comme le prix Nobel de l’informatique – œuvre à développer une « IA-chercheur ». Réunis sous l’appellation « LoiZéro », leur but est de mettre au point des modèles où l’IA serait « désintéressée » et basée sur les données humaines préexistantes afin de faire avancer la recherche scientifique.
La course des grandes puissances à l’IA
Mais la réglementation de l’IA peut aussi être bridée par des intérêts géostratégiques d’importance. Interrogé le 29 juillet sur l’incident d’OpenAI, le président américain est resté prudent. « Nous surveillons l’IA, nous nous penchons sur la régulation, mais nous voulons être certains d’être à la pointe », s’est risqué le président des États-Unis. Face à une Chine agressive sur le sujet, Donald Trump a pour autant ajouté « faire attention » et ne pas vouloir « contraindre » les développeurs car « quiconque gagnera la course à l’IA aura tout gagné ».
En parallèle, la Commission européenne a ouvert, jeudi 30 juillet, un appel d’offres de cinq milliards d’euros pour la construction de méga-usines de développement de modèles d’IA sur le territoire européen. « L’Europe veut devenir le premier continent de l’IA », s’est targuée la présidente de la Commission européenne Ursula von Der Leyen dans un post sur son compte X. Un développement de ces modèles qui devra pour autant se conformer à la nouvelle législation européenne, dont l’entrée en vigueur est prévue pour le 2 août et qui vise « à soutenir le développement d’une IA digne de confiance », peut-on lire sur le site de la Commission.
