Gecko Robotics teste NVIDIA OpenShell pour limiter ce que les agents d’intelligence artificielle peuvent voir et faire lorsqu’ils interviennent dans des environnements industriels. Le spécialiste des robots d’inspection veut appliquer ces garde-fous aux systèmes qui analysent des infrastructures physiques et manipulent des données sensibles.
Le partenariat s’inscrit dans la nouvelle Open Agent Safety Platform de NVIDIA. Son principe consiste à placer les agents dans un environnement d’exécution contrôlé. OpenShell définit les fichiers, services réseau et outils auxquels chaque agent peut accéder, puis applique ces règles pendant toute la durée de la tâche.
Des limites maintenues pendant l’exécution
Les robots de Gecko Robotics collectent des mesures sur des équipements industriels tels que des réservoirs, des chaudières ou des structures métalliques. Les agents logiciels associés peuvent ensuite rechercher des anomalies, rapprocher des historiques d’inspection et préparer des recommandations. Cette autonomie élargit aussi la surface de risque : une consigne mal interprétée ou une tentative d’accès hors périmètre peut toucher un système réel.
OpenShell doit empêcher un agent d’utiliser une ressource qui n’a pas été autorisée, même si les identifiants disponibles lui donneraient techniquement davantage de droits. NVIDIA présente également Sentry, un mécanisme indépendant associé aux DPU BlueField-4, capable de surveiller l’exécution et d’isoler rapidement une activité qui franchit les limites fixées.
Gecko Robotics présente son essai d’OpenShell pour des agents opérant dans le monde physique.
Un enjeu particulier pour les robots industriels
Dans une application bureautique, un agent trop permissif peut modifier un fichier ou lancer une commande indésirable. Sur un site industriel, les conséquences peuvent s’étendre à la disponibilité d’un équipement, à la confidentialité des relevés et à la sécurité des équipes. Gecko compare donc ces contrôles numériques aux protections physiques déjà imposées aux opérateurs.
La démarche ne signifie pas qu’OpenShell valide à lui seul la sûreté d’un robot. Les limites logicielles doivent rester complétées par les arrêts d’urgence, les zones de sécurité, la supervision humaine et les procédures propres à chaque installation. Les performances annoncées par les partenaires devront aussi être observées dans des déploiements durables.
Des agents plus autonomes, mais pas sans périmètre
NVIDIA veut faire d’OpenShell un composant ouvert pouvant entourer différents agents et modèles. Gecko Robotics apporte un cas d’usage concret, où le logiciel est relié à des inspections du monde physique et à des données d’actifs critiques.
Le test illustre une évolution du marché : à mesure que les robots gagnent des fonctions d’analyse et de planification, la question n’est plus seulement de savoir ce qu’ils savent faire. Il faut aussi prouver qu’ils restent confinés à une mission définie, que leurs actions sont traçables et qu’un mécanisme extérieur peut les arrêter.
