effective altruism迅速进入AI主流，塑造Silicon Valley的末日辩论
Luis Cabral ·
The Verge今天报道称，effective altruism已迅速进入AI主流，引导着从Anthropic到AI safety watchdog METR的末日辩论。据The Verge称，经过多年处于边缘，这一运动的崛起正在重塑实验室和资助方如何讨论existential risk并制定研究优先级。该特写以Peter Thiel为棱镜，探讨Silicon Valley的末日政治，以及为何这一世界观正在AI公司与监督机构内部产生共鸣。
The Verge称，支持者已嵌入整个行业，并主张应由灾难性AI情景驱动政策、资本配置和独立评估。批评者则反驳称，以末日为中心的叙事可能让少数身居要位的参与者集中影响力，同时转移对偏见与劳动影响等当下危害的关注；这一紧张关系正于Washington和Brussels浮现。观察重点：Anthropic、METR及监管机构是否会与EA-driven的安全议程保持一致，或对其塑造规则与预算的趋势予以抗衡。 [更新中。本文将持续更新。]