OpenAI améliore ses modèles sur le COBOL, Fortran et Visual Basic

Comparaison des scores OpenAI sur COBOL, Fortran et Visual Basic dans MultiLangBench
OpenAI annonce une forte progression de ses modèles sur 20 langages peu représentés. Illustration : RoboActu, données OpenAI.

OpenAI affirme avoir fortement amélioré les capacités de ses modèles sur les langages de programmation peu représentés dans les données publiques, comme COBOL, Fortran et Visual Basic. L’entreprise publie deux évaluations centrées sur la création de logiciels et la migration de systèmes anciens. Les résultats sont élevés, mais ils restent produits par OpenAI et demandent encore une validation indépendante.

Un moteur SQLite reconstruit dans 20 langages

La première évaluation, baptisée MultiLangBench, demande au modèle de construire un moteur compatible avec SQLite dans 20 langages. Le résultat est vérifié à partir des fichiers de base de données produits, ce qui permet de comparer des implémentations très différentes avec le même critère.

Selon les chiffres publiés le 19 octobre, GPT-6 Astra obtient une moyenne de 87,4 %, contre 26,8 % pour GPT-5.6 Sol. Le gain est particulièrement visible sur Fortran, qui passe de 21,4 % à 83,5 %, et sur Visual Basic, de 27,5 % à 89,4 %. COBOL reste le langage le plus difficile du test, avec 72,1 % contre 10,9 % auparavant.

OpenAI met aussi le dépôt MultiLangBench à disposition sur GitHub. Cette publication doit permettre à d’autres équipes d’examiner la méthode et de reproduire les mesures.

La migration COBOL testée sur le comportement

La seconde évaluation concerne la traduction de programmes COBOL vers C++, Java, Kotlin, Python ou Rust. Une migration n’est considérée comme réussie que si elle conserve exactement le comportement observable du programme d’origine sur tous les tests cachés.

GPT-6.1 Sol atteint 86,6 % avec un faible niveau de raisonnement, contre 5,4 % pour GPT-5.6 Sol. Avec davantage de calcul, le nouveau modèle monte à 97,9 %. OpenAI souligne toutefois qu’un programme peut compiler sans préserver correctement des règles métiers. Le traitement des décimales en COBOL peut, par exemple, produire une différence financière si une conversion arrondit là où le code historique tronquait.

Un marché sensible pour les banques et l’industrie

Ces langages continuent de faire fonctionner des services critiques. COBOL reste présent dans les systèmes bancaires et administratifs, tandis que Fortran conserve une place importante dans la météo, la simulation scientifique et certaines analyses de sûreté. Leur faible présence dans les dépôts publics les rend moins accessibles aux modèles entraînés surtout sur Python, JavaScript ou Java.

Le progrès annoncé peut aider à documenter un programme ancien, générer des tests ou préparer une migration. Il ne supprime pas le besoin d’ingénieurs capables de comprendre les dépendances, les formats de fichiers et les règles métiers accumulées pendant plusieurs décennies. OpenAI recommande elle-même une revue experte et des tests adaptés au système réel.

Des chiffres à confirmer en conditions réelles

MultiLangBench mesure une tâche précise et ne représente pas toute la complexité d’un grand système bancaire ou industriel. Les coûts de préparation des tests, de revue et de déploiement ne figurent pas non plus dans les scores. L’intérêt principal de cette publication est donc double : élargir l’évaluation au-delà des langages dominants et fournir un outil public pour vérifier les progrès revendiqués.

Sources : OpenAI, dépôt MultiLangBench et Crypto Briefing.

Le briefing RoboActu

L’essentiel de la robotique, une fois par semaine.

Une sélection courte des annonces, usages et robots à suivre.

Continuer sur ce sujet

Comparer les robots