Des développeurs renégats inondent Internet de chatbots non censurés qui ignorent les safety guardrails

Wired rapporte aujourd’hui qu’un réseau informel d’“abliterators” inonde Internet de chatbots AI qui ne disent jamais non. La prolifération de systèmes no-guardrail pourrait contourner les filtres de sécurité d’entreprise et remodeler l’équilibre entre la recherche ouverte et le déploiement réglementé, au moment où des régulateurs du monde entier envisagent de nouvelles règles de sécurité AI. Les enjeux sont immédiats, de tels outils pouvant potentiellement aider les défenseurs à sonder des vulnérabilités aussi facilement qu’ils peuvent permettre des instructions nuisibles, selon Wired, qui indique que les partisans mettent en avant le red-teaming et la résistance à la censure tandis que les critiques mettent en garde contre des abus.

Ces renégats modifient et partagent des modèles qui ignorent les refus, les présentant comme des alternatives aux systèmes d’entreprise, se diffusant rapidement dans les communautés en ligne et décrivant Big Tech comme des “corporate enslavers”, selon Wired. Attendez-vous à des retraits, des menaces juridiques et de nouvelles orientations des régulateurs et des model hubs, à mesure que les entreprises et les gouvernements évaluent leur réponse. [En développement. Cet article sera mis à jour.]