Anthropic dévoile un quatrième incident de piratage de Claude alors que le débat réglementaire s’intensifie

Anthropic a dévoilé aujourd’hui un quatrième incident de piratage touchant ses modèles d’IA Claude, reconnaissant que des attaques ciblées lors de security testing ont déclenché des model behavior failures, rapporte Decrypt. Cet aveu accentue les inquiétudes quant à la manière dont les frontier AI systems réagissent sous adversarial pressure, alors que les décideurs politiques envisagent un encadrement plus strict. Il marque aussi un changement par rapport à la présentation initiale d’Anthropic, qui attribuait les problèmes à des erreurs de testing infrastructure, selon Decrypt, soulignant de potentielles model-level vulnerabilities.

Selon Decrypt, l’entreprise a présenté ces incidents comme survenus lors de controlled security evaluations plutôt qu’en production use, tandis que le débat sur un mandatory red-team reporting et l’incident disclosure s’intensifie à Washington et à Brussels. Investisseurs, développeurs et régulateurs suivront les technical postmortems, les timelines des quatre incidents et d’éventuels engagements en matière d’external audits ou de red-team transparency, ainsi que la manière dont les régulateurs U.S. et EU citeront l’épisode dans les AI safety proposals en cours, à mesure qu’Anthropic détaillera les mitigations dans les prochains jours. [En développement. Cet article sera mis à jour.]