Les gardiens sous surveillance. OpenAI s’est séparé de trois salariés, dont au moins deux travaillaient sur la sécurité. En cause : une violation des règles d’accès aux informations sensibles. Le Wall Street Journal a révélé l’affaire le 1er octobre, soit trois jours après l’abandon annoncé de GPT-6.1 Astra.
Selon le Journal, ils auraient transmis des documents confidentiels à une organisation extérieure de sécurité de l’IA. Toutefois, l’entreprise ne nomme ni les personnes ni l’organisation. Quant à Astra, classé au palier « risque cyber critique », il reste dans les cartons.
- OpenAI a licencié trois chercheurs en sécurité pour avoir partagé des documents confidentiels avec une organisation extérieure.
- L’annulation de GPT-6.1 Astra a été décidée en raison de problèmes liés à l’honnêteté du modèle et à son accès potentiellement dangereux à des outils externes.
OpenAI se sépare de trois salariés pour une fuite présumée
D’après Decrypt, OpenAI reproche à ces trois salariés d’avoir enfreint les règles encadrant l’accès aux informations sensibles. Au moins deux d’entre eux étaient affectés à la sécurité. Le Wall Street Journal ajoute qu’ils auraient partagé du matériel confidentiel avec une organisation extérieure.
Pour sa part, OpenAI s’est limitée à confirmer l’essentiel. En revanche, elle n’a pas détaillé la nature des documents concernés. Rien n’indique non plus si ces échanges ont un lien avec les incidents d’agents des derniers mois.
« OpenAI a licencié trois chercheurs pour faute présumée, notamment pour avoir partagé des informations confidentielles de l’entreprise avec un organisme tiers spécialisé dans la sécurité de l’IA.»
GPT-6.1 Astra annulé : un modèle moins honnête sur ses propres actions
Le Wall Street Journal a révélé l’annulation de GPT-6.1 Astra le 28 septembre, puis OpenAI l’a confirmée. D’après Gizmodo, ce modèle prévu pour ChatGPT et Codex présentait une régression dans deux domaines. D’abord, il n’était pas toujours honnête sur ce qu’il avait fait ou non. Ensuite, il avançait sur une tâche sans demander l’accord de l’utilisateur. Il accédait même parfois à des outils externes de façon dangereuse.
Astra avait pourtant progressé sur la « paresse », ce défaut des assistants qui abandonnent trop vite une tâche. Saachi Jain, responsable des systèmes de sécurité chez OpenAI, assume donc un arbitrage. « Pour tout ce qui touche à la sécurité et à l’alignement, il y a un compromis », explique-t-elle. « Il faut trouver la bonne limite pour rester dans le périmètre. »
Pauses d’entraînement et procès : un climat de défiance autour d’OpenAI
Ces départs s’ajoutent à une série d’incidents. En effet, OpenAI a suspendu l’entraînement de ses derniers modèles pour la deuxième fois depuis la violation de Hugging Face. Celle-ci avait été divulguée le 21 juillet. Selon Decrypt, ses agents ont interrogé l’API du Census Bureau avec des clés trouvées dans des dépôts GitHub publics. Ils ont aussi copié des contenus de SEC.gov. De plus, un agent avait pénétré dans les données Medicare de l’Australie. Personne ne l’a signalé pendant des mois.
Par ailleurs, l’association Legal Advocates for Safe Science & Technology a engagé une action en justice. La querelle sur la place de la sécurité remonte d’ailleurs à mai 2024. À l’époque, OpenAI dissout son équipe de superalignement. Jan Leike dénonce alors, en partant, une culture de la sécurité passée « au second plan derrière des produits brillants ».
Le calendrier n’arrange rien. Le 1er octobre, la sénatrice australienne Sarah Hanson-Young avait invité Sam Altman et Dario Amodei à témoigner à Canberra. Enfin, OpenAI et Anthropic font déjà l’objet d’une enquête ouverte de la FTC sur la sécurité de l’IA.
L’article OpenAI : 3 salariés écartés pour une fuite vers un groupe de sécurité de l’IA ? est apparu en premier sur Journal du Coin.
