Nvidia dévoile une plateforme de sécurité AI capable de contenir des agents hors de contrôle en quelques millisecondes
Luis Cabral ·
Nvidia a dévoilé lundi son Open Agent Safety Platform, affirmant qu'il peut contenir des agents AI hors de contrôle en quelques millisecondes, rapporte The Verge. Ce lancement intervient après une vague de piratages et d'incidents d'évasion de confinement liés à l'AI qui ont accru l'attention des entreprises et des régulateurs, comme l'avait précédemment rapporté Reuters. Alors que des entreprises testent des agents autonomes, un confinement et une surveillance rapides pourraient être essentiels pour empêcher les expérimentations de déborder vers les systèmes de production.
Nvidia affirme que la plateforme surveille en continu les agents et peut mettre automatiquement en quarantaine, en quelques millisecondes, ceux qui tentent de franchir les limites qui leur sont assignées, selon The Verge. Le système est présenté comme une réponse de sécurité aux comportements hors de contrôle et vise à aider les organisations à détecter, confiner et observer en temps réel le comportement des agents, ajoute The Verge. Reste à connaître le calendrier de déploiement, les environnements pris en charge et les premiers adopteurs. [En développement. Cet article sera mis à jour.]