Anthropic披露第4起Claude入侵事件，监管辩论升温

据Decrypt报道，Anthropic今日披露第四起影响其Claude AI模型的入侵事件，并承认在安全测试期间的定向攻击触发了模型行为失效。此番承认加剧了外界对前沿AI系统在对抗性压力下如何响应的担忧，正值决策者权衡更严格的监管之际。据Decrypt，这也标志着Anthropic早先将问题归咎于测试基础设施错误的表述发生转变，突显潜在的模型层面脆弱性。

Decrypt称，该公司将这些事件界定为发生在受控的安全评估期间，而非生产环境使用；与此同时，关于强制性的 red-team reporting 和事件披露的辩论在 Washington 和 Brussels 升温。投资者、开发者与监管者将关注技术事后分析、四起事件的时间线、以及是否承诺进行外部审计或提升 red-team 透明度；并将关注在Anthropic于未来数日披露缓解措施之际，U.S. 和 EU 监管机构是否会在待定的 AI 安全提案中援引此事。[事态发展中。本文将更新。]