Anthropic 詳述不法份子濫用其 AI 開發生物武器的行為
Anthropic 發佈了一份長達 154 頁的威脅情報報告，詳細說明了各種不法份子企圖濫用其 AI 模型的情況。犯罪份子、國家資助團體、間諜軟件供應商、科學家和宣傳人員曾試圖利用 Anthropic 的 AI 進行武器設計、製造致命病原體和監視異見人士等目的。報告重點介紹了五個科學家在生物研究中使用 AI 的具體案例，他們規避了安全措施並隱瞞了其工作的意圖。Anthropic 還引用了網絡行動、針對敘利亞維吾爾人的監視、在俄羅斯和馬來西亞等國家的宣傳活動，以及在也門和中國使用 Claude AI 開發常規武器的例子。此次披露發生在一名前僱員辭職之後，該僱員聲稱 Anthropic 的模型可能導致人類在 2030 年前滅絕。
Anthropic 關於 AI 濫用的報告，包括開發生物武器和常規武器的企圖，突顯了亞洲市場一個關鍵而迫切的擔憂。報告特別提到針對敘利亞維吾爾人的中國監視活動，以及在馬來西亞、伊朗和孟加拉國的宣傳活動。報告還指出，Claude AI 在中國和俄羅斯被用於開發導彈和無人機等武器的軟件。這直接影響了區域安全以及亞洲 AI 開發和部署的監管環境。將重點放在現實威脅而非假設的 AI 末日論，是一個關鍵的重新定位。儘管一名前僱員警告人類可能在 2030 年前滅絕，但報告詳細說明了當前構成實際風險的惡意活動。對於亞洲各國政府和科技公司而言，這意味著迫切需要更健全的 AI 治理框架和國際合作，以防止濫用，特別是考慮到生物研究人員規避安全措施以及 AI 在該地區軍事應用中的記錄。
相關文章
6 則
習特會前夕，AI專家為何對安全隱憂「嚇壞了」？
We previously explored AI safety fears and their geopolitical implications ahead of a major US-China summit.
《人民日報》駁斥美國惡意AI蒸餾指控，警告將採取反制措施
Databricks 將在新加坡投資逾 3.5 億美元，員工人數翻倍
Personetics 推出適用於客戶關係經理的 AI 銀行控制台
Anthropic 計劃十月在新加坡設立辦事處並進行本地招聘
