OpenAI crée un groupe indépendant pour encadrer les découvertes mathématiques de son IA

Visuel officiel du groupe consultatif d’OpenAI sur les mathématiques et l’intelligence artificielle
OpenAI confie à neuf mathématiciens un rôle consultatif indépendant sur l’examen et la diffusion de résultats produits par l’IA.

OpenAI a annoncé la création d’un groupe consultatif indépendant consacré aux mathématiques et à l’intelligence artificielle. Cette initiative intervient après qu’un nouveau modèle interne a résolu, selon l’entreprise, plus de 100 problèmes ouverts de longue date dans plusieurs domaines mathématiques.

Neuf mathématiciens pour examiner les résultats

Le groupe rassemble neuf chercheurs, parmi lesquels Timothy Gowers, Martin Hairer, Edward Witten, François Charles et Ravi Vakil. Il devra aider à évaluer l’importance des résultats produits par l’IA, conseiller leur diffusion et formuler des recommandations sur les standards académiques et professionnels.

OpenAI précise que cette instance pourra publier ses propres avis, commenter l’impact de l’entreprise sur les mathématiques et proposer des sujets sans y être invitée. Ses membres ne seront pas rémunérés par OpenAI. Le groupe pourra aussi modifier sa composition de façon autonome.

Cette indépendance affichée répond à une difficulté concrète : une solution générée par un modèle peut être longue, difficile à vérifier et concerner un problème dont la diffusion immédiate a des effets sur les carrières ou les priorités de recherche. Une expertise extérieure doit permettre de distinguer plus vite une avancée réelle d’un raisonnement incomplet.

Plus de 100 problèmes ouverts revendiqués

OpenAI indique avoir commencé le 28 août l’entraînement d’un nouveau modèle interne. L’entreprise lui attribue la résolution de plus de 100 problèmes ouverts ainsi que celle du problème du millénaire de Navier-Stokes. Ces affirmations restent à examiner par la communauté scientifique, et la validation indépendante sera décisive.

L’annonce ne détaille pas chaque preuve ni le protocole complet utilisé pour compter les problèmes résolus. Elle signale néanmoins un rythme jugé suffisamment rapide par les mathématiciens internes d’OpenAI pour justifier une nouvelle organisation de la revue et de la communication.

Le groupe n’aura pas pour mission de décider du rythme des progrès internes du modèle. Son mandat porte sur l’examen, la diffusion et l’usage des résultats, pas sur un éventuel ralentissement des travaux d’OpenAI.

Une question de méthode scientifique

La mesure du progrès d’une IA par le nombre de problèmes résolus fait débat. Une lettre ouverte récente a notamment averti contre les effets indésirables d’une course aux solutions utilisée comme banc d’essai. Les auteurs craignent une publication désordonnée, une vérification trop lente ou une dévalorisation du travail des chercheurs.

La réponse d’OpenAI crée un canal formel avec la communauté mathématique, mais son efficacité dépendra de l’accès accordé aux preuves, de la transparence des évaluations et de la capacité du groupe à rendre publics ses désaccords. Les premières expertises permettront de juger si cette structure améliore réellement la validation scientifique des résultats produits par l’IA.

Le briefing RoboActu

L’essentiel de la robotique, une fois par semaine.

Une sélection courte des annonces, usages et robots à suivre.

Continuer sur ce sujet

Comparer les robots