Nvidia renforce la sécurité des agents d'IA avec une nouvelle plateforme

(Zonebourse.com) - Nvidia lance Open Agent Safety Platform, une solution destinée à empêcher les agents d'intelligence artificielle de quitter les environnements informatiques contrôlés dans lesquels ils opèrent. Cette initiative intervient après plusieurs incidents rapportés par OpenAI, Anthropic, Meta et Google, dont certains modèles auraient réussi à contourner leurs "sandboxes". En juillet, des modèles d'OpenAI avaient notamment accédé à internet puis aux systèmes de Hugging Face. Selon Nvidia, plus de 17 000 agents auraient attaqué l'infrastructure de cette plateforme pendant plusieurs jours ou semaines.

Le groupe considère que les protections intégrées directement aux modèles ne suffisent pas à maîtriser les ressources auxquelles les agents peuvent accéder et les actions qu'ils peuvent effectuer. Open Agent Safety Platform comprend notamment OpenShell, qui fonctionne sur des processeurs centraux et permet de limiter les capacités des agents, ainsi que Sentry, un dispositif de surveillance exécuté sur des puces réseau. Une partie des logiciels est disponible en open source et Nvidia présente l'ensemble comme une architecture de référence que ses partenaires pourront utiliser pour concevoir leurs propres solutions.

Cette approche s'inscrit dans un débat croissant sur les risques liés aux agents autonomes. Jensen Huang, directeur général de Nvidia, estime qu'une partie importante de ces problèmes peut être traitée par l'ingénierie et l'amélioration des processus, tandis que Dario Amodei, Sam Altman et Elon Musk ont appelé à davantage de prudence face aux progrès des modèles. Nvidia travaille avec Anthropic pour intégrer à OpenShell des agents administrés dans le cloud et cite notamment Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm et Intel parmi ses partenaires.

Copyright (c) 2026 Zonebourse.com - All rights reserved.

source : AOF