Les agents IA deviennent capables d’exécuter de plus en plus de tâches seuls. NVIDIA veut maintenant ajouter des garde-fous directement autour de ces agents, avec une nouvelle plateforme de sécurité.
Les agents IA ne se contentent plus de répondre à une question. Ils peuvent aujourd’hui utiliser des outils, accéder à des données, lancer des actions et enchaîner plusieurs étapes pour atteindre un objectif.
Cette autonomie ouvre de nombreuses possibilités pour les entreprises. Mais elle pose aussi une question très concrète : que se passe-t-il lorsqu’un agent fait quelque chose qui dépasse les autorisations prévues ?
C’est précisément le problème auquel NVIDIA veut s’attaquer avec sa nouvelle Open Agent Safety Platform, annoncée le 28 septembre 2026.
Les agents IA deviennent plus autonomes
Un chatbot classique attend généralement une demande et fournit une réponse.
Un agent IA fonctionne différemment. Il peut analyser une situation, utiliser différents outils et réaliser plusieurs actions pour accomplir une tâche.
Cette évolution est particulièrement intéressante pour les entreprises : automatisation de tâches, développement logiciel, analyse de données ou encore gestion de processus.
Mais plus un agent dispose d’accès et d’autonomie, plus il devient important de pouvoir limiter ce qu’il a le droit de faire.
NVIDIA veut donc déplacer une partie de la sécurité en dehors du modèle d’IA lui-même.
NVIDIA présente une nouvelle approche de la sécurité
La NVIDIA Open Agent Safety Platform repose principalement sur deux éléments : OpenShell et Sentry.
L’objectif annoncé est de créer plusieurs niveaux de contrôle autour des agents, depuis leur environnement logiciel jusqu’à l’infrastructure matérielle qui les fait fonctionner.
L’idée est assez simple : même si un agent essaie d’effectuer une action qui dépasse ses permissions, une couche de sécurité supplémentaire peut intervenir.
OpenShell : une limite autour de l’agent
Le premier composant s’appelle OpenShell.
Il s’agit d’un logiciel open source qui crée un environnement d’exécution sécurisé pour les agents IA. Il permet notamment de suivre leurs actions et d’appliquer des règles pendant leur fonctionnement.
Autrement dit, l’entreprise peut définir un cadre dans lequel l’agent doit rester.
NVIDIA indique également qu’OpenShell peut être adapté à des plateformes matérielles tierces, notamment celles utilisant des processeurs Arm ou Intel.
Cette approche est intéressante car la sécurité ne dépend plus uniquement des instructions données au modèle.
Sentry : surveiller ce qui se passe réellement
Le deuxième élément est NVIDIA Sentry.
Contrairement à OpenShell, Sentry fonctionne à un niveau matériel, avec les processeurs NVIDIA BlueField-4 DPU.
Son rôle est de surveiller en continu le comportement des agents. Selon NVIDIA, lorsqu’un agent tente de sortir des limites définies, Sentry peut le mettre en quarantaine et l’arrêter en quelques millisecondes.
Cette surveillance indépendante est importante : elle ajoute une couche de contrôle qui ne repose pas directement sur l’agent lui-même.
Pourquoi cette évolution est importante
Jusqu’à présent, la sécurité des applications utilisant l’IA reposait beaucoup sur les modèles, les permissions et les contrôles intégrés aux logiciels.
Avec des agents capables d’enchaîner automatiquement plusieurs actions, cette approche devient plus complexe.
Une entreprise peut par exemple autoriser un agent à consulter certaines données, utiliser une API ou modifier un fichier. La question devient alors :
Comment s’assurer qu’il reste dans ce périmètre pendant toute son exécution ?
C’est là que les mécanismes de contrôle externe deviennent particulièrement intéressants.
NVIDIA présente justement sa plateforme comme une manière d’ajouter des règles et de la surveillance à plusieurs niveaux de l’environnement où fonctionnent les agents.
Une approche qui intéresse déjà plusieurs acteurs
NVIDIA indique travailler avec de nombreux acteurs du secteur autour de cette technologie, notamment Anthropic, Microsoft, Cisco, CrowdStrike, Dell, HPE, IBM, SAP, Salesforce, ServiceNow et Scale AI.
L’objectif n’est donc pas uniquement de protéger un type particulier d’application.
La plateforme est pensée pour différents environnements, notamment les applications d’entreprise et, plus largement, les systèmes dans lesquels des agents IA peuvent prendre des décisions ou effectuer des actions.
L’IA autonome aura besoin de garde-fous
Le développement des agents IA change progressivement notre manière d’utiliser l’intelligence artificielle.
On passe d’une IA qui répond à une IA qui peut agir.
Cette différence est importante. Plus une technologie peut agir seule, plus il devient nécessaire de savoir ce qu’elle fait, quelles ressources elle peut utiliser et comment interrompre son fonctionnement si nécessaire.
La plateforme présentée par NVIDIA ne signifie évidemment pas que tous les risques liés aux agents IA sont résolus. Elle représente plutôt une nouvelle couche technique de contrôle et de surveillance autour de ces systèmes.
Et c’est probablement l’une des grandes questions de l’IA des prochaines années : comment donner davantage d’autonomie aux machines tout en gardant un véritable contrôle humain ?