“道德红线”?世界正处于自主武器革命的风口浪尖
联合国日内瓦会议将讨论致命自主武器系统(LAWS)的规定,正值各界关注人工智能在战争中扮演的角色日益扩大。传统自主武器是预先编程的,而人工智能增强型系统则无需直接人工干预即可识别、选择和攻击目标,这加剧了对清晰监管框架的呼吁。
关于自主武器的争论区分了旧系统(例如杀伤人员地雷)和新型人工智能增强型无人机。根据日内瓦安全政策中心 Jean-Marc Rickli 的说法,人工智能驱动的系统现在“能够选择和攻击未预设的目標,无需人工干预即可适应环境”。这种能力标志着与早期在预设条件下运作的自主武器的重大转变。
这种根本性的变化意味着机器可以就目标做出实时决策,这向监管机构提出了关于所需人工控制水平的关键问题。联合国秘书长 Antonio Guterres 和红十字国际委员会主席 Mirjana Spoljaric 警告不要跨越自主锁定人类目标的“道德红线”。美国等国家提及“适当水平的人类判断”,而法国则允许“部分自主”系统,这突显了监管方式的多样性。
然而,包括 Rickli 在内的分析师认为,日内瓦的讨论范围“非常狭窄”。据报道,他们未能解决人工智能在战场上日益扩大的应用范围,特别是已经广泛部署的目标生成和决策支持系统。这种更广泛的部署引发了关于人工操作员是真正行使判断力还是仅仅橡皮图章式地批准机器建议的问题,这表明当前的监管重点与现有技术现实之间存在差距。
法国国防人工智能局海军少将 Vincent Sebastien,以及 Guterres 和 Spoljaric 警告说,战场上的自主性并非遥远的未来。他们表示,武器系统在更大自主性方面的竞赛已经如火如荼地进行,据报道,俄罗斯在乌克兰的近期冲突中以及美国在伊朗的袭击中部署了一些自主武器。
分享这篇文章
相关文章
6 则
Claude Duet 先向您发送消息。这改变了谁在掌控。
The core question of who or what is in control when AI systems make decisions is explored in this piece.

Anthropic 的首次公开募股会促成更好的 AI 监管吗?
As autonomous weapons raise regulatory questions, we previously asked if an AI IPO could lead to better regulation.

百度因未经审批收购欢聚集团业务,被中国罚款7.5万美元

为何印度需要商业秘密法,以及为何现在就需要

恒生科技指数扩至50只股票,新增宁德时代和立讯精密;恒生指数维持不变

