Anthropic向投資者闡明風險，包括失控人工智能可能造成的危害
人工智能公司Anthropic在最近向美國證券交易委員會提交的文件中，向投資者披露了潛在風險，其中包括其產品可能對人類構成威脅的可能性。該文件詳細說明了從不法分子將人工智能模型武器化，到技術本身發展超出人類控制的各種擔憂，其中有93頁專門討論此類風險因素。
Anthropic的披露概述了其先進人工智能模型所帶來的一系列嚴重風險，這些模型是能夠進行複雜問題解決和自主行動的系統。該公司報告稱，這些模型可能被惡意行為者濫用以開發化學武器，或被獨裁政府用於監控和控制。這表明人工智能透過蓄意應用來加劇現有威脅的直接潛力。
除了蓄意濫用之外，該文件還提到了人工智能系統在沒有人類干預的情況下，獨立行動並大規模採取有害行動，即「失控」的風險。一個關鍵的擔憂是模型進展過快，以至於公司可能無法實施足夠的安全措施，或者人工智能的發展「超出我們評估和保護新模型的能力」。
該文件明確提到，如果這些系統被濫用、複製、武器化或被允許高度自主運行，將會對人類造成「災難性或生存性風險」。Anthropic的行政總裁Dario Amodei此前在9月警告稱，人工智能可能在六到十二個月內領導一群代理人接管整個互聯網。該公司指出，它已經阻止了將其人工智能用於網絡攻擊和生物武器開發研究等惡意活動的嘗試。
分享這篇文章
相關文章
6 則
獨立測試顯示 DeepSeek AI 模型存在安全漏洞
Independent tests also revealed safety gaps in the DeepSeek AI model, echoing concerns for Anthropic investors.
香港城市大學調查：港人使用AI意願上升，逾半數仍憂慮職位被取代；醫生主導醫療決策仍是首選
Hong Kong shows rising AI willingness, but concerns about job displacement and safety remain, similar to investor risks.
中國加入全球競賽，透過超聲波療法喚醒腦損傷患者
Apple 確認 iOS 27.3 Beta 版將於下週推出，並在中國提供 Apple Intelligence
使用 Adobe Premiere 腳本進行批次影片編輯：經驗分享
