🇨🇳中国·AI 新闻·2026年11月19日·来源: Menafn

    报告:为削减成本,带有偏见的中国人工智能模型日渐普及

    Max Balafoutis、Alex Colville 和 Shelly Shih 的一份报告指出,一类旨在自动化决策的人工智能模型据报对中国共产党的政治立场表现出偏见。这些“决策模型”已应用于在线内容审核和招聘等流程。

    决策模型代表了一种新型人工智能,其设计目的并非直接与用户互动,而是做出简单选择,然后由软件执行。例如,此类模型可能会根据职位描述评估求职者的简历,并回复录用或拒绝的概率,或者通过移除某些内容来审核讨论区。

    一个值得注意的例子是名为 Jev 的决策模型,它在 9 月份迅速受到开发人员的欢迎。据观察,它能使人工智能应用程序运行更快、更具成本效益。据 Jev 背后的旧金山公司 TypeSafe 的首席执行官表示,Jev 推出仅两周,就有 25% 的财富 500 强公司使用该模型。举例来说,TypeSafe 的公开博客强调一家英国初创公司将 Jev 整合到其候选人筛选中,预计每年可节省 50 万美元。

    大型科技公司,包括 Cloudflare 和 Microsoft,正在开发自己的决策模型。这些模型通常以现有的人工智能模型为基础。报告指出,这些公司目前的优先事项通常是价格和可用性,而非供应链安全,这导致许多公司使用来自中国科技巨头(例如阿里巴巴的 Qwen)的基础模型。

    然而,报告指出,基于中国基础构建的决策模型表现出特定的政治偏见。当被要求评估求职者时,据报这些模型不倾向于选择个人兴趣包括支持新疆独立的人。同样,在内容审核方面,它们很可能会删除关于习近平主席的笑话。

    报告作者建议,采用这些模型的组织可能在无意中让中国共产党的偏好影响其内部流程。他们建议澳大利亚及其民主伙伴实施要求,公司必须披露其人工智能模型的基础,并测试其是否存在中国政治偏见。报告进一步倡导鼓励使用现有的西方基础模型。

    分享这篇文章

    原文报道: Menafn我们不转载全文, 阅读原文 →

    相关文章

    6 则