波士顿教授称，Anthropic前研究员对AI的警告需认真对待
Anthropic前研究员Jacob Coxon公开辞去该AI公司职务，理由是担心人工智能的快速发展可能导致灾难性后果。Coxon曾在OpenAI工作，他在社交媒体平台X上表示，两家公司都在不负责任地竞相开发自我改进的超级智能。东北大学助理教授Rebecca Kleinberger支持认真对待这些警告，指出AI增长的速度阻碍了对其后果进行充分研究以及建立必要的保障措施。美国众议员Lori Trahan正在推动《边境法案》（Frontier Act），该立法旨在通过强制性透明度和政府对构成迫切风险的模型实施“暂停按钮”来加强对AI的监督。
Jacob Coxon在OpenAI任职后辞去Anthropic职务，凸显了AI研究人员内部对先进AI发展速度和方向日益增长的担忧。Coxon明确警告AI可能在十年内“杀死我们所有人”，尽管戏剧化，但也反映了部分系统构建者的共同感受。Rebecca Kleinberger关于缺乏时间进行研究和开发保障措施的观察，对亚洲监管机构和科技领袖来说是一个关键点。对于AI采用和投资正在加速的亚洲而言，这场辩论凸显了制定健全国家AI战略以平衡创新与安全的必要性。新加坡和韩国等国家正在积极投资AI，而美国推动的《边境法案》可能会为全球监管框架树立先例。亚洲市场面临的挑战将是如何在促进AI增长的同时，主动解决Coxon等研究人员指出的系统性风险，确保本地发展不会超越伦理和安全考量。
相关文章
6 则
Anthropic 研究员辞职，警告人工智能发展的危险
We previously reported on the Anthropic researcher's resignation and his stark warnings about AI dangers.
OpenAI 董事会新增一位著名的“AI 末日论者”
This story follows up on the broader trend of AI safety concerns, including OpenAI's board appointments.
《人民日报》驳斥美国恶意AI蒸馏指控，警告将采取反制措施
Databricks 将在新加坡投资逾 3.5 亿美元，员工人数翻倍
Personetics 推出适用于客户关系经理的 AI 银行控制台
