甚麼是「有效利他主義」——以及為何矽谷會對「AI末日」如此著迷？

「有效利他主義」的知識淵源可追溯到澳洲哲學家Peter Singer。他在1972年提出，拯救生命的道德義務應超越地理距離。這一理念引起了富裕捐助者的共鳴，他們尋求一種理性、循證的方法，以最大限度地發揮其慈善捐款的正面影響。該運動於2000年代末至2010年代初正式成形，例如由Holden Karnofsky共同創立的GiveWell，提供慈善效益的數據驅動分析；以及由牛津哲學家William MacAskill和Toby Ord發起的「Giving What We Can」，鼓勵捐出大量收入以應對全球貧困問題。

該運動對數據和理性的強調吸引了美國科技和金融界的人士，這些行業普遍採用此類決策框架。這種方法旨在將焦點從傳統指標（例如營運開支）轉移到組織的實際影響。邁阿密大學教授兼EA倡導者Richard Chappell將全球貧困、工廠化養殖動物和「全球災難性風險」列為EA的三大主要事業，其中後者直接與對人工智能的擔憂相關。

EA對AI風險的參與進一步受到「長遠主義」的影響。這是一種由MacAskill等人物倡導的哲學，它優先考慮人類遙遠的未來；以及理性主義運動，該運動自2000年代以來一直警告超智能AI帶來的生存威脅。這些重疊的理念和成員資格強調了一種共同的信念，即防止人類滅絕應是首要任務，吸引了像Sam Bankman-Fried這樣的人物。他是Anthropic的早期投資者，曾表示他進入金融界是為了為慈善捐贈創造財富。