Desenvolvedores renegados inundam a internet com chatbots sem censura que ignoram guardrails de segurança

A Wired relata hoje que uma rede informal de “abliterators” está inundando a internet com chatbots de AI que nunca dizem não. A proliferação de sistemas no-guardrail poderia contornar filtros corporativos de segurança e redefinir o equilíbrio entre pesquisa aberta e implantação regulada, em um momento em que reguladores no mundo todo avaliam novas regras de segurança de AI. As apostas são imediatas, com tais ferramentas potencialmente ajudando defensores a sondar vulnerabilidades com a mesma facilidade com que permitem instruções nocivas, segundo a Wired, que diz que os apoiadores exaltam red-teaming e resistência à censura enquanto críticos alertam para abusos.

Os renegados modificam e compartilham modelos que ignoram recusas, posicionando-os como alternativas a sistemas corporativos, espalhando-se rapidamente por comunidades online e retratando a Big Tech como “corporate enslavers,” diz a Wired. Fique atento a remoções, ameaças legais e novas orientações de reguladores e model hubs, enquanto empresas e governos avaliam como responder. [Em desenvolvimento. Este artigo será atualizado.]