Nvidia 发布 AI 安全平台,可在毫秒级内遏制 rogue agents
Luis Cabral ·
据 The Verge 报道,Nvidia 周一发布其 Open Agent Safety Platform,称其可在毫秒级内遏制 rogue AI agents。此前 Reuters 报道,一波由 AI 驱动的 hacking 和 containment-escape 事件加剧了企业与监管层的审视,此次发布正是在这一背景下进行。随着企业试点 autonomous agents,快速 containment 和 monitoring 或将成为防止实验外溢至生产系统的关键。
据 The Verge,Nvidia 称该平台持续监控 agents,并可在毫秒级内自动隔离试图突破其分配边界的 agents。The Verge 补充称,该系统被定位为针对 rogue activity 的安全响应,旨在帮助机构 in real time 检测、detect、confine、并观察 agent 行为。后续请关注有关 rollout timing、supported environments 和 early adopters 的具体信息。
[报道更新中。本文将持续更新。]