什么是“有效利他主义”——以及为何硅谷会痴迷于“AI末日”？

“有效利他主义”的知识渊源可追溯到澳大利亚哲学家Peter Singer。他在1972年提出，拯救生命的道德义务应超越地理距离。这一理念引起了富裕捐助者的共鸣，他们寻求一种理性、循证的方法，以最大限度地发挥其慈善捐款的积极影响。该运动于2000年代末至2010年代初正式成形，例如由Holden Karnofsky共同创立的GiveWell，提供慈善效益的数据驱动分析；以及由牛津哲学家William MacAskill和Toby Ord发起的“Giving What We Can”，鼓励捐出大量收入以应对全球贫困问题。

该运动对数据和理性的强调吸引了美国科技和金融界的人士，这些行业普遍采用此类决策框架。这种方法旨在将焦点从传统指标（例如运营开支）转移到组织的实际影响。迈阿密大学教授兼EA倡导者Richard Chappell将全球贫困、工厂化养殖动物和“全球灾难性风险”列为EA的三大主要事业，其中后者直接与对人工智能的担忧相关。

EA对AI风险的参与进一步受到“长远主义”的影响。这是一种由MacAskill等人物倡导的哲学，它优先考虑人类遥远的未来；以及理性主义运动，该运动自2000年代以来一直警告超智能AI带来的生存威胁。这些重叠的理念和成员资格强调了一种共同的信念，即防止人类灭绝应是首要任务，吸引了像Sam Bankman-Fried这样的人物。他是Anthropic的早期投资者，曾表示他进入金融界是为了为慈善捐赠创造财富。