🇨🇳中國·AI 新聞·2026年11月19日·來源: Menafn

    報告:為削減成本,帶有偏見的中國人工智能模型日漸普及

    Max Balafoutis、Alex Colville 和 Shelly Shih 的一份報告指出,一類旨在自動化決策的人工智能模型據報對中國共產黨的政治立場表現出偏見。這些「決策模型」已應用於網上內容審核和招聘等流程。

    決策模型代表了一種新型人工智能,其設計目的並非直接與用戶互動,而是做出簡單選擇,然後由軟件執行。例如,此類模型可能會根據職位描述評估求職者的履歷,並回覆錄取或拒絕的機率,或者透過移除某些內容來審核討論區。

    一個值得注意的例子是名為 Jev 的決策模型,它在 9 月份迅速受到開發人員的歡迎。據觀察,它能使人工智能應用程式運行更快、更具成本效益。據 Jev 背後的舊金山公司 TypeSafe 的行政總裁表示,Jev 推出僅兩週,就有 25% 的財富 500 強公司使用該模型。舉例來說,TypeSafe 的公開網誌強調一家英國初創公司將 Jev 整合到其候選人篩選中,預計每年可節省 50 萬美元。

    大型科技公司,包括 Cloudflare 和 Microsoft,正在開發自己的決策模型。這些模型通常以現有的人工智能模型為基礎。報告指出,這些公司目前的優先事項通常是價格和可用性,而非供應鏈安全,這導致許多公司使用來自中國科技巨頭(例如阿里巴巴的 Qwen)的基礎模型。

    然而,報告指出,基於中國基礎構建的決策模型表現出特定的政治偏見。當被要求評估求職者時,據報這些模型不傾向於選擇個人興趣包括支持新疆獨立的人。同樣,在內容審核方面,它們很可能會刪除關於習近平主席的笑話。

    報告作者建議,採用這些模型的組織可能在無意中讓中國共產黨的偏好影響其內部流程。他們建議澳洲及其民主夥伴實施要求,公司必須披露其人工智能模型的基礎,並測試其是否存在中國政治偏見。報告進一步倡導鼓勵使用現有的西方基礎模型。

    分享這篇文章

    原文報道: Menafn我們不轉載全文, 閱讀原文 →

    相關文章

    6 則