OpenAI ouvre sa Decisions API à tous les développeurs

Visuel officiel de la Decisions API d’OpenAI
OpenAI présente sa Decisions API comme un service de choix rapides pour les applications et les agents.

OpenAI met sa Decisions API en disponibilité générale. Le service, propulsé par GPT-6 Luna, vise les applications qui doivent choisir rapidement entre plusieurs options sans générer une réponse longue. L’entreprise annonce un tarif de 0,10 dollar par million de jetons d’entrée, sans facturation de jetons de sortie.

L’API avait été présentée fin septembre puis ouverte en bêta. Sa nouvelle version ajoute une intégration avec GPT-Live, la mise en cache des prompts, des entrées JSON natives et la possibilité de traiter jusqu’à 400 questions dans une seule requête. OpenAI veut ainsi couvrir des usages comme la classification, le routage d’une demande ou le choix de la prochaine action d’un agent.

Des décisions en quelques centaines de millisecondes

Une Decisions API ne fonctionne pas comme un assistant conversationnel classique. Le développeur définit une question, une liste de réponses possibles et, si besoin, des critères. Le modèle renvoie une option et un niveau de confiance. Cette sortie bornée réduit le volume de calcul et facilite son intégration dans un logiciel de production.

OpenAI indique que les applications vocales peuvent désormais interroger le service pendant qu’une personne parle grâce à GPT-Live. Les images peuvent aussi être intégrées aux instructions de chaque question. Les entrées structurées en JSON évitent, de leur côté, de transformer systématiquement des données applicatives en texte avant leur évaluation.

Le cache est facturé 0,01 dollar par million de jetons lus. Selon OpenAI, un client ne paie que les données envoyées au modèle. Cette structure tarifaire vise des volumes élevés, notamment quand une application doit répéter la même grille de décision sur de nombreux contenus ou événements.

OpenAI se place sur le marché des modèles de décision

Cette disponibilité générale arrive alors que les modèles spécialisés dans les décisions rapides se multiplient. TechCrunch cite notamment Jev de TypeSafe, D1 Ultra de Liquid et Elephant-1 de Base Lab. Ces outils cherchent à remplacer un grand modèle de langage sur les tâches où l’application attend un choix court et mesurable, plutôt qu’un texte élaboré.

OpenAI ne présente pas Luna comme un modèle entraîné uniquement pour cet usage. L’entreprise a plutôt adapté son modèle existant afin de réduire la latence et le coût. Nikunj Handa, responsable produit pour les API d’OpenAI, évoque auprès de TechCrunch des réponses comprises entre 100 et 180 millisecondes. Speak, l’un des premiers utilisateurs, dit avoir réduit de 1,4 seconde à 0,13 seconde le délai entre deux actions dans son application d’apprentissage des langues.

Un outil pour les agents, mais pas une réponse universelle

La promesse est particulièrement adaptée aux agents logiciels. Un orchestrateur peut demander quelle compétence appeler, si une requête doit être escaladée ou quelle étape exécuter ensuite. Un service de modération peut classer une image, tandis qu’un système vocal peut décider de répondre, d’attendre ou d’appeler un outil.

La qualité reste toutefois dépendante du problème, des options proposées et du seuil de confiance choisi. Les classements publics cités par TechCrunch ne placent pas systématiquement l’offre d’OpenAI en tête. Pour une entreprise, l’enjeu sera donc de mesurer simultanément la précision, le coût, la calibration et la vitesse sur ses propres données.

Ce que change la disponibilité générale

Le passage hors bêta permet surtout d’intégrer le service à des flux de production avec un cadre tarifaire stable. OpenAI élargit aussi le nombre de modalités et double le nombre de questions par requête. La Decisions API devient ainsi une brique complémentaire des modèles génératifs, conçue pour arbitrer rapidement là où une réponse rédigée serait trop lente ou trop coûteuse.

Sources : annonce officielle d’OpenAI et analyse de TechCrunch.

Le briefing RoboActu

L’essentiel de la robotique, une fois par semaine.

Une sélection courte des annonces, usages et robots à suivre.

Continuer sur ce sujet

Comparer les robots