Anthropic prépare une surveillance d’agents contrôlée par ses clients

Illustration officielle d’Anthropic pour Enterprise Frontier Safeguards
Anthropic prévoit de déployer Enterprise Frontier Safeguards progressivement à partir de l’automne 2026. Illustration : Anthropic.

Anthropic annonce Enterprise Frontier Safeguards, un dispositif destiné à surveiller les usages à risque de ses agents tout en conservant les données dans une infrastructure contrôlée par le client. Le déploiement doit commencer progressivement à l’automne 2026.

La solution, abrégée EFS, cherche à concilier deux demandes difficiles à réunir. Les entreprises réglementées veulent limiter la conservation de leurs données chez un fournisseur de modèles, mais la détection d’un abus complexe exige souvent de corréler des actions sur plusieurs sessions et plusieurs comptes.

Les données restent chez le client

Avec EFS, les données nécessaires à la surveillance sont stockées dans l’environnement cloud contrôlé par l’entreprise, et non dans l’infrastructure d’Anthropic. Le client garde également la main sur la manière dont les alertes sont examinées. Anthropic prévoit un déploiement par étapes et accorde temporairement la conservation nulle des données sur Fable 5 et Fable 5.1 aux clients éligibles.

Le dispositif doit être pris en charge dans Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Claude Platform sur AWS, Google Agent Platform et Microsoft Foundry. Cette couverture vise les agents utilisés directement par les développeurs comme ceux intégrés aux plateformes cloud.

Anthropic explique avoir conçu EFS avec plus de cent clients des services financiers, de la santé, de l’industrie, des télécommunications, du droit, du commerce et du secteur public. L’entreprise cite également AWS, Google Cloud et Microsoft Azure parmi ses partenaires de travail.

Surveiller des séquences plutôt qu’une requête isolée

Le point technique central est la durée d’observation. Une fraude ou une cyberattaque pilotée par un agent peut être découpée en nombreuses tâches anodines lorsqu’elles sont vues séparément. Détecter le schéma suppose de relier ces actions dans le temps, ce qu’une suppression immédiate des journaux rend difficile.

Anthropic affirme avoir observé des tentatives allant de la fraude à des cyberattaques sophistiquées, parfois avec des agents capables d’enchaîner des actions destructrices. EFS doit donc appliquer des contrôles sur les modèles les plus avancés sans imposer que le fournisseur conserve lui-même les données sensibles.

Un compromis encore à éprouver

Le stockage chez le client réduit certains risques de confidentialité, mais il ne les fait pas disparaître. Les entreprises devront encore définir les droits d’accès, la durée de conservation, les procédures de revue et les critères qui déclenchent une alerte. Elles devront aussi vérifier que la surveillance respecte les obligations locales en matière de données personnelles et de droit du travail.

Anthropic n’a pas encore publié de mesure publique du taux de détection ou de faux positifs d’EFS. L’annonce décrit une architecture et un calendrier, mais pas encore ses performances en exploitation. La valeur du système dépendra autant de la qualité des signaux que de la capacité des équipes de sécurité à traiter les alertes sans bloquer les usages légitimes.

Pour les agents déployés dans des environnements sensibles, EFS illustre une évolution importante : la sécurité ne se limite plus à filtrer une requête. Elle devient une surveillance de séquences d’actions, avec une gouvernance des données qui doit être intégrée dès la conception du service.

Le briefing RoboActu

L’essentiel de la robotique, une fois par semaine.

Une sélection courte des annonces, usages et robots à suivre.

Continuer sur ce sujet

Comparer les robots