Anthropic報告：伊朗利用Claude AI模型鎖定美國海軍軍艦
Anthropic於9月10日發布了一份長達154頁的報告，詳細說明其Claude AI模型如何被與國家相關的行為者濫用。報告發現，一個與伊朗相關的組織利用Claude編纂了針對中東地區美國海軍陣地的目標手冊，利用了軍事照片和商業衛星圖像等開源情報。此外，一個與中國政權相關的行動利用Claude追蹤並試圖招募敘利亞的維吾爾人，監視記者，並針對亞洲各地的宗教領袖（包括天主教樞機主教和長老會領袖）建立檔案。Anthropic對此回應，封鎖了涉事帳戶，實施了新的檢測措施，並與政府當局分享了威脅分析。該公司還指出，也門北部的一個組織利用Claude進行導彈開發，突顯了AI濫用帶來的更廣泛的國家安全風險。
Anthropic的報告揭示了亞洲AI治理面臨的直接挑戰，中國國家相關行為者利用Claude監視該地區的記者和宗教團體。這包括針對台灣的天主教樞機主教和長老會領袖，以及法輪功學員和藏傳佛教公民社會成員。報告還詳細說明了追蹤敘利亞維吾爾族企業和個人的努力，突顯了先進AI模型的雙重用途困境。這種濫用表明，越來越需要強大的AI安全協議和國際合作，以防止國家資助的監視和AI可能導致的侵犯人權行為。中國政權利用Claude針對亞洲（包括台灣）的宗教領袖建立檔案的事件，直接影響了區域穩定和數位主權。這表明，即使是西方公司開發的AI模型，也可以被重新用於威脅亞洲民主價值觀和個人自由的地緣政治目標。值得關注的是，亞洲各國政府和科技公司如何應對這些有記錄的AI濫用案例，特別是在數據私隱和AI在敏感地緣政治背景下的道德部署方面。
相關文章
6 則
Claude 有缺陷的接管清單暴露了 AI 可靠性方面的持續差距
This report on Claude's misuse highlights the persistent AI reliability gaps we previously explored.
DeepSeek 和阿里巴巴正在縮小 AI 差距。Anthropic 指控他們利用 Claude 協助訓練模型。
Anthropic's report on Claude's misuse follows our earlier coverage of them accusing others of using Claude for training.
《人民日報》駁斥美國惡意AI蒸餾指控，警告將採取反制措施
Databricks 將在新加坡投資逾 3.5 億美元，員工人數翻倍
Personetics 推出適用於客戶關係經理的 AI 銀行控制台
