TechGlobal.news

Nvidia apresenta plataforma de segurança de AI que contém agentes desonestos em milissegundos

Luis Cabral ·

Na segunda-feira, a Nvidia apresentou seu Open Agent Safety Platform, dizendo que pode conter agentes de AI desonestos em milissegundos, relata The Verge. O lançamento segue uma onda de invasões impulsionadas por AI e incidentes de fuga de contenção que intensificaram o escrutínio corporativo e regulatório, como reportado anteriormente pela Reuters. Com empresas testando agentes autônomos, contenção e monitoramento rápidos podem ser críticos para impedir que experimentos avancem para sistemas de produção.

A Nvidia diz que a plataforma monitora continuamente os agentes e pode colocar automaticamente em quarentena aqueles que tentarem violar seus limites atribuídos em milissegundos, segundo The Verge. O sistema é apresentado como uma resposta de segurança a atividades desonestas e busca ajudar organizações a detectar, conter e observar o comportamento dos agentes em tempo real, acrescenta The Verge. Aguarde detalhes sobre o cronograma de lançamento, ambientes compatíveis e primeiros adotantes.

[Em desenvolvimento. Este artigo será atualizado.]