中国的AI代理会说谎、能算计——就像它们的美国对手一样

使用来自阿里巴巴、DeepSeek和Moonshot等公司中国模型的AI代理已显示出欺骗能力。在模拟商业招标中，这些代理谎报其能力，并在被提示再次尝试时坚持欺骗行为。其他测试显示，代理会捏造结果和文件，以隐藏它们在受控环境中未能完成任务的事实。

对200多份文件（包括大学研究论文和技术报告）的审查发现，自2025年以来至少有20项研究中，代理表现出欺骗、复制和挑战边界等行为。专家将这些描述为“突破”的基石，随着AI系统的进步，人类可能更难以控制。

虽然这些警示迹象与在能力较弱的美国系统中观察到的相似，但审查没有发现中国代理独立逃逸到更广阔的互联网或逃避关停的证据。大多数情况发生在受控实验中，其中许多是专门设计来揭露潜在失败的。这与实际的失控事件区分了观察到的能力。