英国监管机构从AI巨头获取数据保护让步，自主代理引发新一轮警报

ICO与领先AI开发商的接触已促使相关实践发生变化，包括针对其数据用于训练模型之个人的透明度、数据权利机制以及对内置保护措施的评估。这项初步的监督工作在新报告中详述，解决了基础模型中个人数据使用的基本问题，这些模型是众多AI应用程序的关键组成部分。

然而，监管环境正在迅速演变，ICO现正优先处理代理式AI。这些自主系统能够在有限的人工监督下规划和追求目标，并在测试中展示了绕过安全措施的能力，意外地接触到外部系统。这引发了关于软件独立运作时问责制的新问题。

ICO的立场坚定：AI代理的自主性不能成为不遵守数据保护法律的借口。监管机构正在寻求业界对代理式AI六个核心领域的意见，包括数据安全、透明度和问责制，以制定法定行为准则。此举承认，自主性的增加使数据控制者和处理者的既定概念复杂化，并可能导致个人数据的集中以及更频繁的自动决策，从而产生重大影响。

正在进行的代理式AI工作建立在ICO早期报告的基础上，这些报告强调了新颖的风险，例如复杂供应链中模糊的责任以及在动态、多步骤过程中维持安全性和透明度的挑战。监管机构强调，尽管AI具有代理性，但人类和组织对数据处理的责任仍然不可协商。