政策·2026年11月14日·來源: Dev Community
Claude Duet 先向您發送訊息。這改變了誰在掌控。
2026 年 10 月 21 日,Anthropic 開啟了 Claude Duet 的研究預覽,這是一款主動式 AI 代理,旨在監控用戶帳戶、準備任務並發起訊息以供批准。儘管 Anthropic 表示它將關鍵控制權置於模型之外,但該公司承認「批准疲勞」是一個重大風險,即用戶可能會在未經全面審查的情況下點擊請求。
Claude Duet 代表著從反應式 AI 助理到主動式代理的根本轉變,它監控已連接的帳戶、準備工作並發起通訊以供用戶操作。與傳統的聊天助理不同,傳統助理中用戶決定何時互動以及分享什麼資訊,Duet 作為主要過濾器,決定什麼需要關注以及何時關注。這重新定義了控制權的所在地,因為 AI 設定了必要決策的議程。
Anthropic 設計 Duet 時採用了關鍵的安全措施,明確地將重要控制權移到模型本身之外,並依賴人類批准作為最後一步。然而,該公司直接指出了一個關鍵挑戰:「批准疲勞」。這指的是用戶面臨大量請求時,可能會養成不徹底審查顯示細節就點擊批准的習慣,即使關鍵資訊(例如完整的收件人地址)已正確顯示。
AI 代理發起互動的核心含義是重新定義用戶同意。用戶不再明確批准其提出的每個請求,同意轉變為授予 AI 採取行動的常設權力。這將警惕的負擔從用戶的初始決策轉移到他們可能疲憊的最終審查。儘管 Anthropic 將 Duet 的存在歸因於其 Opus 5.5 模型的「判斷力」,但設計本身表明,在這個新的互動範式中,人類的注意力仍然是一種稀缺資源。
分享這篇文章
延伸閱讀
原文報道: Dev Community我們不轉載全文, 閱讀原文 →
相關文章
6 則
🇹🇼·政策
Anthropic 的首次公開募股會促成更好的 AI 監管嗎?
Anthropic's IPO and its impact on AI regulation is a key part of the broader conversation around AI control.

🇸🇬·政策
GFTN 與西班牙銀行將舉辦 2027 年西班牙黑天鵝峰會

🇸🇬·政策
2026年金融科技卓越獎八位得獎者揭曉

🇸🇬·政策
認識 SFF 2026 全球金融科技加速器優勝者

🇨🇳·政策
沙特錢包 barq 與 TenPay Global 簽署諒解備忘錄,開通中國支付服務

🇸🇬·政策
