政策·2026年11月14日·來源: Dev Community

    AI 編碼審計追蹤:代理程式在您的儲存庫中做了甚麼?

    ReclaimLLM 報告指出,AI 編碼會話的有效審計追蹤需要將建議的代理程式操作、策略決策和觀察到的結果連結起來,以確定 AI 代理程式實際做了甚麼。該公司指出,目前的工具,包括 Cursor,通常會將這些記錄分開,使得難以明確證明特定命令和檔案存取的授權或執行。

    為 AI 編碼代理程式建立清晰的審計追蹤對於問責制至關重要,但由於代理程式活動的不同階段記錄方式不同,這個過程變得複雜。建議的操作、策略決策和觀察到的結果通常被捕獲為獨立事件。如果沒有一種機制可以利用共享識別碼(例如會話 ID)將這些不同的記錄連接起來,就難以重建完整、可驗證的事件序列。

    這種碎片化意味著孤立的證據無法證實更廣泛的主張。例如,策略響應「允許」並不能證明人工批准,成功的命令也不能確認其輸出已安全處理。如果記錄只顯示操作而沒有先前的策略響應,則無法聲稱其已獲授權。同樣,如果結果可見但沒有初始請求,則無法將其完全歸因於代理程式,這突顯了全面且連結的事件捕獲的必要性。

    此外,審計系統本身也存在固有限制。特定的操作模式,例如 Cursor 的 Cloud Agent 或無頭 CLI,可能不會發出某些掛鉤事件,從而在記錄中留下文件化的空白。雖然從審計追蹤中編輯敏感數據對於防止產生新的安全風險至關重要,但剩餘的上下文,例如檔案路徑、命令和策略響應,必須足以確保追蹤對於調查仍然有用,而不會產生另一個秘密儲存。

    分享這篇文章

    原文報道: Dev Community我們不轉載全文, 閱讀原文 →

    相關文章

    6 則