政策·2026年11月14日·來源: Dev Community

    Claude Duet 先向您發送訊息。這改變了誰在掌控。

    2026 年 10 月 21 日,Anthropic 開啟了 Claude Duet 的研究預覽,這是一款主動式 AI 代理,旨在監控用戶帳戶、準備任務並發起訊息以供批准。儘管 Anthropic 表示它將關鍵控制權置於模型之外,但該公司承認「批准疲勞」是一個重大風險,即用戶可能會在未經全面審查的情況下點擊請求。

    Claude Duet 代表著從反應式 AI 助理到主動式代理的根本轉變,它監控已連接的帳戶、準備工作並發起通訊以供用戶操作。與傳統的聊天助理不同,傳統助理中用戶決定何時互動以及分享什麼資訊,Duet 作為主要過濾器,決定什麼需要關注以及何時關注。這重新定義了控制權的所在地,因為 AI 設定了必要決策的議程。

    Anthropic 設計 Duet 時採用了關鍵的安全措施,明確地將重要控制權移到模型本身之外,並依賴人類批准作為最後一步。然而,該公司直接指出了一個關鍵挑戰:「批准疲勞」。這指的是用戶面臨大量請求時,可能會養成不徹底審查顯示細節就點擊批准的習慣,即使關鍵資訊(例如完整的收件人地址)已正確顯示。

    AI 代理發起互動的核心含義是重新定義用戶同意。用戶不再明確批准其提出的每個請求,同意轉變為授予 AI 採取行動的常設權力。這將警惕的負擔從用戶的初始決策轉移到他們可能疲憊的最終審查。儘管 Anthropic 將 Duet 的存在歸因於其 Opus 5.5 模型的「判斷力」,但設計本身表明,在這個新的互動範式中,人類的注意力仍然是一種稀缺資源。

    分享這篇文章

    延伸閱讀
    原文報道: Dev Community我們不轉載全文, 閱讀原文 →

    相關文章

    6 則