Effective altruism avança para o mainstream de AI, moldando o debate do apocalipse no Silicon Valley

The Verge relata hoje que effective altruism ganhou força no mainstream de AI, direcionando um debate apocalíptico que vai de Anthropic ao watchdog de AI safety METR. Depois de anos à margem, a ascensão do movimento está remodelando como laboratórios e financiadores discutem o risco existencial e definem prioridades de pesquisa, informa The Verge. A reportagem usa Peter Thiel como prisma para a política de fim dos tempos do Silicon Valley e por que essa visão de mundo está ressoando dentro de empresas de AI e órgãos de supervisão.

The Verge diz que os adeptos estão inseridos em todo o setor e defendem que cenários catastróficos de AI devem orientar políticas, alocação de capital e avaliações independentes. Críticos contrapõem que narrativas centradas no apocalipse podem concentrar influência em poucos atores bem posicionados, ao mesmo tempo que desviam a atenção de danos atuais como viés e impactos no trabalho, uma tensão que agora vem à tona em Washington e Brussels. O que observar: se Anthropic, METR e reguladores se alinham ou reagem às agendas de segurança EA-driven que moldam regras e orçamentos. [Em desenvolvimento. Este artigo será atualizado.]