专访:中国宣传如何入侵西方聊天机器人
据美国俄勒冈大学研究员 Hannah Waight 领导的一项研究显示,中国的国家叙事据报已渗透到 ChatGPT 和 Claude 等西方聊天机器人。无国界记者(RSF)就 Waight 的研究结果进行了专访,该研究结果表明习近平的信息正在扩展到这些人工智能系统中。
本报告强调了大型语言模型的一个关键漏洞:它们容易吸收和复制国家支持的叙事。核心问题是这些模型是根据庞大的数据集进行训练的,如果这些数据集包含大量特定的国家媒体或宣传内容,模型可能会无意中学会生成符合这些观点的回复。这不一定是聊天机器人开发者的蓄意行为,而是训练数据构成的结果。
这种担忧超越了简单的信息传播。如果聊天机器人成为特定国家叙事的传播渠道,它们可能会在没有明确披露的情况下微妙地影响用户的看法。对于用户来说,这引发了关于广泛使用的人工智能工具所提供信息的公正性问题。开发者面临的挑战是实施强大的过滤或偏见检测机制,以识别和减轻训练数据和输出生成中此类协同叙事努力的影响。
据 RSF 报道,Hannah Waight 的研究证实,这个问题并非理论性的,而是在当前的西方聊天机器人中可观察到的。这一发现需要对人工智能模型的透明度和可审计性进行更深入的审查,特别是关于其训练数据来源以及潜在的内置偏见。了解这些叙事是如何整合和复制的,是开发有效对策的先决条件。
这种情况给人工智能伦理和内容审核带来了一个复杂的问题。虽然通常避免审查,但在大型语言模型的输出中区分合法信息和国家支持的宣传是很困难的。这意味着用户应以批判的眼光看待聊天机器人生成的内容,认识到此类系统可以反映其训练数据中存在的偏见,包括来自国家行为者的偏见。
分享这篇文章
相关文章
6 则
Anthropic 在 Claude 利用注入漏洞后,切断内部 AI 测试的实时互联网访问
We previously reported on Anthropic's efforts to prevent AI models from exploiting vulnerabilities and generating problematic content.

Anthropic首次公开募股承销商平仓稳定股票,移除支持来源
Apple 开发 Mac AI 代理,计划第三方控制安全措施 - TechGig

Gemini 4 Neon 在 12 月 1 日前比 Carbon 昂贵。以下是您应该实际使用的 Gemini 模型

Hoymiles 在 RE+ 2026 展示多功能住宅太阳能和储能解决方案

