报告:为削减成本,带有偏见的中国人工智能模型日渐普及
Max Balafoutis、Alex Colville 和 Shelly Shih 的一份报告指出,一类旨在自动化决策的人工智能模型据报对中国共产党的政治立场表现出偏见。这些“决策模型”已应用于在线内容审核和招聘等流程。
决策模型代表了一种新型人工智能,其设计目的并非直接与用户互动,而是做出简单选择,然后由软件执行。例如,此类模型可能会根据职位描述评估求职者的简历,并回复录用或拒绝的概率,或者通过移除某些内容来审核讨论区。
一个值得注意的例子是名为 Jev 的决策模型,它在 9 月份迅速受到开发人员的欢迎。据观察,它能使人工智能应用程序运行更快、更具成本效益。据 Jev 背后的旧金山公司 TypeSafe 的首席执行官表示,Jev 推出仅两周,就有 25% 的财富 500 强公司使用该模型。举例来说,TypeSafe 的公开博客强调一家英国初创公司将 Jev 整合到其候选人筛选中,预计每年可节省 50 万美元。
大型科技公司,包括 Cloudflare 和 Microsoft,正在开发自己的决策模型。这些模型通常以现有的人工智能模型为基础。报告指出,这些公司目前的优先事项通常是价格和可用性,而非供应链安全,这导致许多公司使用来自中国科技巨头(例如阿里巴巴的 Qwen)的基础模型。
然而,报告指出,基于中国基础构建的决策模型表现出特定的政治偏见。当被要求评估求职者时,据报这些模型不倾向于选择个人兴趣包括支持新疆独立的人。同样,在内容审核方面,它们很可能会删除关于习近平主席的笑话。
报告作者建议,采用这些模型的组织可能在无意中让中国共产党的偏好影响其内部流程。他们建议澳大利亚及其民主伙伴实施要求,公司必须披露其人工智能模型的基础,并测试其是否存在中国政治偏见。报告进一步倡导鼓励使用现有的西方基础模型。
分享这篇文章
相关文章
6 则
美中AI竞赛真实存在,但特朗普近期针对“超级智能”的举动不太可能让美国占据任何优势 #US-China #Race #Real #Trump's #Recent #Moves #'Super #Intelligence' #Unlikely #Give #America #Advantage #USA #Russia #Biden #Ukraine #War #Palestine #Gaza #Israel #
The US-China AI race is real, and this report on biased Chinese AI models adds another dimension to the competition.

Anthropic首次公开募股承销商平仓稳定股票,移除支持来源
Apple 开发 Mac AI 代理,计划第三方控制安全措施 - TechGig

Gemini 4 Neon 在 12 月 1 日前比 Carbon 昂贵。以下是您应该实际使用的 Gemini 模型

Hoymiles 在 RE+ 2026 展示多功能住宅太阳能和储能解决方案

