Anthropic研究员兼举报人称他“致力于将自己自动化”

Jacob Coxon的证词为更广泛的人工智能风险讨论提供了一个具体、个人的维度。他关于在Anthropic“致力于将自己自动化”的声明，说明了先进人工智能发展如何直接影响人类角色，即使是在构建这些系统的公司内部。这种观点提供了一个具体的例子，说明了技术进步如何引发对职位取代的担忧，超越了理论讨论，延伸到人工智能开发者的亲身经历。

纽约市议会听证会的背景表明，监管机构正日益关注人工智能安全及其社会影响。尽管Coxon的证词是个人陈述，但它为不断增长的专家意见体系提供了贡献，为立法考量提供了信息。这表明政策制定者正在寻求人工智能开发者的直接见解，以了解潜在挑战，而不是仅仅依赖抽象的政策文件。

Coxon在辞职后公开发出警告，也突显了领先人工智能研究组织内部的内部辩论和道德考量。他决定发声，强调了对人工智能发展轨迹的担忧不仅限于外部批评者，也存在于直接推动其进步的个人之中。这种内部视角可以为人工智能风险的警告提供可信度，因为它来自于对开发实践和目标有第一手了解的人。