Effective altruism s’impose dans le mainstream de l’AI, façonnant le débat apocalyptique de Silicon Valley

The Verge rapporte aujourd’hui que effective altruism a fait irruption dans le mainstream de l’AI, orientant un débat apocalyptique d’Anthropic à l’organisme de surveillance de la sécurité de l’AI METR. Après des années en marge, la montée du mouvement remodèle la manière dont les laboratoires et les financeurs discutent du risque existentiel et fixent les priorités de recherche, rapporte The Verge. Le reportage utilise Peter Thiel comme prisme sur la politique de fin du monde de Silicon Valley et sur les raisons pour lesquelles cette vision du monde résonne au sein des entreprises d’AI et des organes de supervision.

The Verge indique que des adhérents sont présents dans tout le secteur et soutiennent que des scénarios d’AI catastrophiques devraient orienter les politiques, l’allocation de capital et les évaluations indépendantes. Les critiques rétorquent que des récits centrés sur la catastrophe peuvent concentrer l’influence entre les mains de quelques acteurs bien placés tout en détournant l’attention des préjudices actuels comme les biais et les impacts sur le travail, une tension qui émerge désormais à Washington et à Bruxelles. À surveiller: si Anthropic, METR et les régulateurs s’alignent sur ou s’opposent à des agendas de sécurité EA-driven qui façonnent les règles et les budgets. [En développement. Cet article sera mis à jour.]