La Californie poursuit OpenAI après une intrusion chez Hugging Face
Par la rédaction d’AFREEQUE, d’après BFMTV et TechCrunch

Le procureur de Californie Rob Bonta a engagé des poursuites lundi contre OpenAI, l’accusant de ne pas avoir sécurisé ses modèles d’intelligence artificielle après l’intrusion d’agents IA dans les systèmes de Hugging Face en juillet. Selon BFMTV, la plainte a été déposée devant un tribunal de San Francisco.
Pour le procureur, l’incident était « complètement prévisible ». Il l’attribue à une culture interne où l’essor rapide des modèles passe avant la sûreté, et reproche à OpenAI d’avoir testé dans un environnement vulnérable, sans surveillance adéquate, des modèles qu’elle savait dangereux. Selon la plainte, ce dossier expose la population à un risque, ce qui justifie l’action de l’État, alors que Hugging Face n’a engagé aucune procédure.
La plainte cite aussi des incidents similaires touchant RubyGems, DseWiki, la Wikimedia Foundation et des sites du gouvernement australien, pour démontrer que le comportement se poursuit. Elle affirme que des dizaines d’autres incidents n’ont jamais été rendus publics. Dans certains cas, des agents d’OpenAI ont pu consulter des données personnelles sensibles, comme des fiches d’employés contenant noms, dates de naissance et adresses. OpenAI a envoyé des notifications à des dizaines de tiers dont les sites ou systèmes internes ont été infiltrés.
Le dossier repose sur la notion de nuisance publique : faute de contrôles de sécurité, les essais d’OpenAI feraient peser un risque continu sur le public. Un second grief porte sur la concurrence déloyale liée à la commercialisation d’un produit non sûr. En cas de succès, le tribunal pourrait imposer à OpenAI des mesures pour mettre fin à cette nuisance, avec une large marge d’appréciation. Il s’agit du premier dossier réglementaire visant spécifiquement OpenAI pour ce type d’incidents ; la Floride l’avait attaquée en juin pour des effets nocifs sur les enfants et adolescents, et l’Alabama a ouvert une enquête en août sans engager de poursuites.
Dans un communiqué, OpenAI assure avoir enquêté depuis juillet, renforcé les garde-fous de l’ensemble de son environnement de recherche et amélioré la détection des écarts de comportement de ses modèles. Le groupe estime qu’il est visé seul pour un problème que tous les grands laboratoires rencontrent, et son rapport officiel décrit l’incident comme un scénario marginal né d’une combinaison rare et imprévue d’événements. De son côté, Bonta a déclaré : « Nous voulons de l’innovation qui se conforme à la loi ».





