Anthropic revela quarto incidente de hacking do Claude enquanto cresce o debate regulatório

Anthropic divulgou hoje um quarto incidente de hacking que afetou seus modelos de AI Claude, reconhecendo que ataques direcionados durante testes de segurança desencadearam falhas de comportamento do modelo, relata a Decrypt. A admissão intensifica as preocupações sobre como sistemas de AI de fronteira respondem sob pressão adversarial enquanto formuladores de políticas consideram uma supervisão mais rígida. Também representa uma mudança em relação à narrativa anterior da Anthropic, que atribuía o problema a erros na infraestrutura de testes, segundo a Decrypt, destacando possíveis vulnerabilidades no nível do modelo.

Decrypt diz que a empresa caracterizou os incidentes como ocorridos durante avaliações de segurança controladas, e não em uso de produção, enquanto cresce em Washington e Brussels o debate sobre obrigatoriedade de relatórios de red-team e divulgação de incidentes. Investidores, desenvolvedores e reguladores ficarão atentos a postmortems técnicos, cronogramas dos quatro incidentes e eventuais compromissos com auditorias externas ou transparência de red-team, e se reguladores nos U.S. e na EU citarão o episódio em propostas pendentes de segurança de AI à medida que a Anthropic detalha mitigações nos próximos dias. [Em desenvolvimento. Este artigo será atualizado.]