TechGlobal.news

Nvidia presenta una plataforma de seguridad de AI que contiene a agentes descontrolados en milisegundos

Luis Cabral ·

Nvidia presentó el lunes su Open Agent Safety Platform, afirmando que puede contener a agentes de AI descontrolados en cuestión de milisegundos, según The Verge. El lanzamiento sigue a una ola de hackeos impulsados por AI e incidentes de evasión de contención que han intensificado el escrutinio corporativo y regulatorio, como informó anteriormente Reuters. Con empresas que están probando agentes autónomos, la contención y la supervisión rápidas podrían ser críticas para evitar que los experimentos se propaguen a los sistemas de producción.

Nvidia dice que la plataforma supervisa continuamente a los agentes y puede poner automáticamente en cuarentena, en cuestión de milisegundos, a aquellos que intenten vulnerar los límites que se les han asignado, según The Verge. El sistema se presenta como una respuesta de seguridad ante actividad descontrolada y busca ayudar a las organizaciones a detectar, confinar y observar el comportamiento de los agentes en tiempo real, añade The Verge. Quedan por conocerse detalles sobre el calendario de despliegue, los entornos compatibles y los adoptantes tempranos.

[En desarrollo. Este artículo se actualizará.]