OpenAI affirme avoir fortement réduit la capacité d’attaquants à extraire le raisonnement protégé de ses modèles. Dans une évaluation interne adaptative, le taux de réussite d’une attaque visant un raisonnement antérieur passe de 54 % sur GPT-6 Astra à 0,2 % sur GPT-6.2 Astra avec les nouvelles protections.
L’entreprise publie ces résultats dans une analyse consacrée à la « distillation adversariale ». Cette pratique consiste à utiliser les réponses ou les traces de raisonnement d’un modèle avancé pour entraîner un autre système sans autorisation. Le modèle copieur peut alors reproduire certaines capacités sans reprendre les garde-fous du modèle d’origine.
Protéger les traces de raisonnement
OpenAI cible en priorité les raisonnements intermédiaires, souvent appelés chaînes de pensée. Ces traces peuvent contenir davantage d’informations que la réponse finale et former un jeu d’entraînement particulièrement riche. Elles sont donc utiles à un acteur cherchant à transférer des compétences en programmation, cybersécurité ou biologie vers un autre modèle.
Selon les tests internes publiés, l’extraction du raisonnement lié à la requête en cours passe de 22,9 % de réussite sur GPT-6 Astra avec les protections initiales à 0,9 % sur GPT-6.2 Astra. Les résultats agrègent six modèles attaquants dans un scénario en boîte noire où les outils automatisés adaptent leur stratégie aux réponses obtenues.
Ces chiffres ne constituent pas un audit indépendant. Ils montrent néanmoins que l’entreprise mesure désormais cette menace avec des attaques évolutives, et non uniquement avec une liste fixe de tentatives déjà connues.
Plusieurs défenses combinées
La méthode annoncée associe entraînement adversarial, classificateurs d’entrée et de sortie, contrôles au niveau de l’API et enquêtes sur les campagnes coordonnées. Les classificateurs surveillent aussi les arguments transmis aux outils, car un modèle pourrait y exposer un raisonnement sans l’afficher dans son message final.
Pour GPT-6.2 Astra et Sol, le raisonnement protégé est lié à l’historique qui l’a produit. Une modification d’un message antérieur entraîne la suppression du raisonnement associé. Les anciennes familles de modèles, dotées de protections plus faibles, ne peuvent pas non plus lire ces traces.
OpenAI dit avoir mené cette année plusieurs actions contre des campagnes de distillation non autorisée. Les mesures hebdomadaires auraient concerné de quelques milliers à plusieurs dizaines de milliers de comptes. L’entreprise indique partager certains indices techniques avec d’autres fournisseurs de modèles.
Notre analyse
La distillation n’est pas seulement un conflit de propriété intellectuelle. Elle peut transférer des capacités à double usage vers un modèle moins contraint. La baisse annoncée du taux d’extraction est importante, mais sa portée dépend du protocole interne et de la capacité des attaquants à trouver de nouvelles voies. La publication offre surtout un aperçu rare des protections appliquées aux traces de raisonnement et de la surveillance menée à l’échelle des comptes.
Sources : analyse officielle d’OpenAI et annonce officielle sur X.
