專訪:中國宣傳如何入侵西方聊天機械人
據美國俄勒岡大學研究員 Hannah Waight 領導的一項研究顯示,中國的國家敘事據報已滲透到 ChatGPT 和 Claude 等西方聊天機械人。無國界記者(RSF)就 Waight 的研究結果進行了專訪,該研究結果表明習近平的訊息正在擴展到這些人工智能系統中。
本報告強調了大型語言模型的一個關鍵漏洞:它們容易吸收和複製國家支持的敘事。核心問題是這些模型是根據龐大的數據集進行訓練的,如果這些數據集包含大量特定的國家媒體或宣傳內容,模型可能會無意中學會生成符合這些觀點的回應。這不一定是聊天機械人開發者的蓄意行為,而是訓練數據構成的結果。
這種擔憂超越了簡單的資訊傳播。如果聊天機械人成為特定國家敘事的傳播渠道,它們可能會在沒有明確披露的情況下微妙地影響用戶的看法。對於用戶來說,這引發了關於廣泛使用的人工智能工具所提供資訊的公正性問題。開發者面臨的挑戰是實施強大的過濾或偏見檢測機制,以識別和減輕訓練數據和輸出生成中此類協同敘事努力的影響。
據 RSF 報導,Hannah Waight 的研究證實,這個問題並非理論性的,而是在當前的西方聊天機械人中可觀察到的。這一發現需要對人工智能模型的透明度和可審計性進行更深入的審查,特別是關於其訓練數據來源以及潛在的內置偏見。了解這些敘事是如何整合和複製的,是開發有效對策的先決條件。
這種情況給人工智能倫理和內容審核帶來了一個複雜的問題。雖然通常避免審查,但在大型語言模型的輸出中區分合法資訊和國家支持的宣傳是很困難的。這意味著用戶應以批判的眼光看待聊天機械人生成的內容,認識到此類系統可以反映其訓練數據中存在的偏見,包括來自國家行為者的偏見。
分享這篇文章
相關文章
6 則
Anthropic 在 Claude 利用注入漏洞後,切斷內部 AI 測試的實時互聯網存取
We previously reported on Anthropic's efforts to prevent AI models from exploiting vulnerabilities and generating problematic content.

Anthropic首次公開招股承銷商平倉穩定股價,移除支持來源
Apple 開發 Mac AI 代理,計劃第三方控制安全措施 - TechGig

Gemini 4 Neon 在 12 月 1 日前比 Carbon 昂貴。以下是您應該實際使用的 Gemini 模型

Hoymiles 於 RE+ 2026 展示多功能住宅太陽能及儲能解決方案

