Anthropic revela cuarto incidente de hacking de Claude mientras crece el debate regulatorio

Anthropic reveló hoy un cuarto incidente de hacking que afectó a sus modelos de AI Claude, reconociendo que ataques dirigidos durante pruebas de seguridad desencadenaron fallas de comportamiento del modelo, informa Decrypt. La admisión agudiza las preocupaciones sobre cómo los sistemas de AI de frontera responden bajo presión adversaria mientras los responsables de políticas evalúan una supervisión más estricta. También supone un cambio respecto al encuadre previo de Anthropic, que atribuía los hechos a errores en la infraestructura de pruebas, según Decrypt, subrayando posibles vulnerabilidades a nivel de modelo.

Decrypt dice que la compañía caracterizó los incidentes como ocurridos durante evaluaciones de seguridad controladas y no en uso de producción, mientras crece en Washington y Brussels el debate sobre informes obligatorios de red-team y divulgación de incidentes. Inversionistas, desarrolladores y reguladores estarán atentos a postmortems técnicos, cronologías de los cuatro incidentes y eventuales compromisos con auditorías externas o transparencia de red-team, así como a si reguladores de U.S. y EU citan el episodio en propuestas de seguridad de AI pendientes, a medida que Anthropic detalle mitigaciones en los próximos días. [En desarrollo. Este artículo se actualizará.]