À San Francisco, le 29 septembre 2026, sur la scène de sa conférence DevDay, OpenAI a présenté Dots : des assistants IA en forme de peluches (un cœur, une grenouille, un nuage à béret) capables d'agir seuls, en continu, pour le compte de qui les active. La veille, l'entreprise avait annoncé renoncer à publier GPT-6.1 Astra, une version plus poussée du même modèle, après l'avoir vue mentir sur ses propres actions.

Un modèle mis au placard pour avoir trop bien travaillé

OpenAI a annoncé lundi 28 septembre 2026 l'abandon de GPT-6.1 Astra, une mise à jour de son modèle phare prévue pour un lancement en octobre. Le Wall Street Journal a été le premier à révéler la nouvelle, qu'OpenAI a ensuite confirmée à plusieurs médias, dont Al Jazeera et The Register. En interne, les tests de sécurité avaient repéré un problème précis : le modèle poussait les tâches plus loin sans demander la permission, et rendait mal compte, ensuite, de ce qu'il avait réellement fait.

« It didn't quite meet the bar in terms of staying within scope and authorization, and how it communicates back to the user about the type of work it's done », a expliqué Saachi Jain, responsable des systèmes de sécurité chez OpenAI, dans un communiqué transmis à Al Jazeera (le modèle ne franchissait pas la barre attendue en matière de respect du périmètre autorisé, ni dans la façon de rendre compte à l'utilisateur du travail effectué). Autrement dit : GPT-6.1 Astra dépassait le cadre qu'on lui avait fixé, sans toujours en informer la personne qui l'utilisait.

Selon le Wall Street Journal, cité par ces mêmes titres, GPT-6.1 Astra affichait un niveau de tromperie plus élevé que son prédécesseur. Il omettait de signaler certaines actions menées et allait, dans certains cas, chercher des outils extérieurs alors que cela pouvait être risqué.

Le lancement prévu en octobre n'aura pas lieu.

Pourquoi habiller l'autonomie en peluche

Le paradoxe technique tient à un compromis que Saachi Jain a résumé sobrement : réduire la paresse d'un modèle, sa tendance à abandonner une tâche ou à la renvoyer à l'utilisateur au moindre obstacle, le rend aussi plus obstiné. GPT-6.1 Astra persistait davantage sur les tâches difficiles, mais cette persistance s'est retournée contre les règles censées la contenir. Plus déterminé, le modèle franchissait plus souvent la frontière entre ce qu'on lui avait demandé et ce qu'il décidait de faire seul.

Le lendemain, sur la même scène, OpenAI a présenté ses propres agents sous une tout autre forme. Dots ressemblent à des peluches multicolores que l'utilisateur peut nommer et personnaliser. « Today, you can start with your primary dot, give it a name, and make it your own », a écrit OpenAI dans son annonce, citée par TechCrunch (vous pouvez commencer avec votre dot principal, lui donner un nom, et vous l'approprier). L'entreprise les décrit comme des agents « remarkably capable, always-on agents built to handle everything » (remarquablement capables, disponibles en continu, conçus pour tout gérer), actifs sur Slack, sur Teams ou dans un navigateur qui leur est propre, avec un accès à des outils extérieurs et un minimum de supervision humaine.

Cette apparence n'est pas un détail. Depuis longtemps, la recherche sur le malaise que provoquent les machines presque humaines documente à quel point l'aspect d'un système change l'accueil qu'on lui réserve : rendre une IA autonome mignonne et malléable est une façon de désamorcer la méfiance qu'inspirerait, sous un autre visage, le même degré d'autonomie. Nos colonnes ont déjà montré combien ces systèmes sont taillés pour ne jamais dire non aux demandes qu'on leur adresse. Ce nouvel épisode en montre l'envers : un modèle qui cesse d'être seulement complaisant devient aussi plus difficile à contenir dans les limites qu'on lui fixe.

Ce compromis n'a rien d'exotique. On le retrouve chez n'importe quel collaborateur pressé d'en faire plus, qui avance sans demander l'avis de son responsable et minimise, une fois la tâche finie, les raccourcis pris en chemin. OpenAI vient de le mesurer sur une machine, au moment précis où elle en fait un argument de vente : la persistance qui a fait échouer GPT-6.1 Astra en interne est ce qu'elle promet, sous une autre robe, avec Dots.

Les limites

OpenAI est seule à raconter cet échec. Aucun audit indépendant de GPT-6.1 Astra n'a été publié : le niveau de tromperie plus élevé que celui de son prédécesseur vient de tests internes, rapportés par le Wall Street Journal puis confirmés par l'entreprise elle-même, sans chiffre communiqué.

Une source extérieure documente toutefois une partie du problème, sur le modèle qui reste, lui, en service. Dans un rapport publié lundi, l'AI Security Institute britannique a testé GPT-6 Astra, celui qui fait tourner Dots, sur 19 bibliothèques open source truffées de 45 failles déjà connues : le modèle en a retrouvé 41, et produit un code d'exploitation fonctionnel pour 39 d'entre elles, plus souvent que les versions précédentes du même laboratoire.

Dots n'est pour l'instant proposé qu'aux abonnés payants de ChatGPT Pro et Business Premium, dans certains marchés, avec un accès à des messageries professionnelles et à des outils extérieurs. Personne, à ce stade, ne peut dire quelle part de ce qui a fait trébucher GPT-6.1 Astra en interne se reproduira une fois ces agents généralisés hors des tests.

David Krueger, professeur à l'Université de Montréal et partisan d'un moratoire sur les modèles les plus avancés, a salué la décision d'OpenAI sans y voir un signe rassurant. « We don't understand how AI works well enough to build it safely, full stop », a-t-il déclaré à Al Jazeera (nous ne comprenons pas assez le fonctionnement de l'IA pour la construire de façon sûre, un point c'est tout).