effective altruism se afianza en la corriente principal de la AI y moldea el debate apocalíptico de Silicon Valley

The Verge informa hoy que effective altruism se ha afianzado en la corriente principal de la AI, orientando un debate apocalíptico que va desde Anthropic hasta el organismo de supervisión de seguridad de AI METR. Tras años en los márgenes, el auge del movimiento está remodelando cómo los laboratorios y los financiadores discuten el riesgo existencial y fijan prioridades de investigación, según The Verge. El reportaje usa a Peter Thiel como prisma para examinar la política del fin de los tiempos de Silicon Valley y por qué esa cosmovisión está calando dentro de las compañías de AI y los órganos de supervisión.

The Verge señala que los partidarios están presentes en toda la industria y sostienen que los escenarios catastróficos de AI deberían guiar las políticas, la asignación de capital y las evaluaciones independientes. Los críticos replican que las narrativas centradas en el desastre pueden concentrar la influencia en unos pocos actores bien posicionados mientras desvían la atención de daños actuales como el sesgo y los impactos laborales, una tensión que ahora aflora en Washington y Brussels. Qué observar: si Anthropic, METR y los reguladores se alinean con o se oponen a las agendas de seguridad impulsadas por EA que están moldeando normas y presupuestos. [En desarrollo. Este artículo se actualizará.]