Anthropic a publié deux cadres réglementaires qui demandent aux gouvernements le pouvoir légal de bloquer les déploiements d’IA jugés dangereux, assortis d’amendes calculées sur le chiffre d’affaires mondial. Le laboratoire à l’origine de Claude prend une position rare dans l’industrie : réclamer une régulation qui s’appliquerait directement à sa propre activité.
Bloquer les modèles à risque, avec des amendes à la clé
Le premier texte, l’Advanced AI Framework, porte sur la sécurité. Anthropic veut que les États puissent bloquer ou dissuader le déploiement de modèles présentant un risque significatif de dommage catastrophique. Les sanctions civiles seraient indexées sur le chiffre d’affaires annuel mondial et grimperaient en cas de récidive.
Le cadre ne viserait qu’un cercle très restreint d’acteurs. Il s’appliquerait aux modèles entraînés avec plus de 10²⁵ opérations en virgule flottante, développés par des entreprises générant plus de 500 millions de dollars de revenus liés à l’IA ou dépensant plus d’un milliard en recherche. Ce seuil capture une poignée de sociétés : Anthropic elle-même, OpenAI, Google DeepMind, xAI et potentiellement Meta.
Quatre catégories de risque catastrophique
Le laboratoire identifie quatre familles de danger : le développement d’armes biologiques, la découverte de vulnérabilités informatiques à grande échelle, la perte de contrôle sur des systèmes autonomes, et l’IA capable d’automatiser sa propre recherche. Pour appuyer son propos, Anthropic cite son expérience avec Mythos Preview, qui a découvert des milliers de vulnérabilités critiques dans tous les principaux systèmes d’exploitation et navigateurs. La preuve, selon l’entreprise, que ces risques ne sont pas théoriques.
Les développeurs de modèles de pointe seraient tenus de tester leurs systèmes, de publier des résumés de résultats, de se soumettre à des évaluations indépendantes et de produire des rapports de risque réguliers. Pour Anthropic, la transparence seule ne suffit plus.
Un tacle direct à la Maison-Blanche
Le texte vise frontalement la volonté de l’administration américaine de bloquer les lois sur l’IA votées au niveau des États. Anthropic estime que le Congrès ne devrait pas écraser les lois locales sauf s’il adopte une loi fédérale au moins aussi stricte que le cadre proposé. Le laboratoire plaide pour une préemption chirurgicale, qui laisserait les États légiférer sur la protection de l’enfance ou des consommateurs.
Le second cadre, économique, s’attaque aux effets de l’IA sur l’emploi : comptes de capital, assurance salaire, incitations fiscales et filet de sécurité sociale élargi. L’objectif affiché est que les bénéfices financiers de l’IA soient largement partagés. Le calendrier n’a rien d’anodin : Anthropic affronte le Pentagone en justice et prépare son entrée en Bourse.
