政策·2026年11月14日·来源: Dev Community

    AI 编码审计追踪:代理在您的存储库中做了什么?

    ReclaimLLM 报告称,AI 编码会话的有效审计追踪需要将提议的代理操作、策略决策和观察到的结果联系起来,以确定 AI 代理实际做了什么。该公司指出,包括 Cursor 在内的现有工具通常会将这些记录分开,使得难以明确证明特定命令和文件访问的授权或执行。

    为 AI 编码代理建立清晰的审计追踪对于问责制至关重要,但由于代理活动的不同阶段记录方式不同,这个过程变得复杂。建议的操作、策略决策和观察到的结果通常被捕获为独立事件。如果没有一种机制可以利用共享标识符(例如会话 ID)将这些不同的记录连接起来,就难以重建完整、可验证的事件序列。

    这种碎片化意味着孤立的证据无法证实更广泛的主张。例如,策略响应“允许”并不能证明人工批准,成功的命令也不能确认其输出已安全处理。如果记录只显示操作而没有先前的策略响应,则无法声称其已获授权。同样,如果结果可见但没有初始请求,则无法将其完全归因于代理,这突显了全面且链接的事件捕获的必要性。

    此外,审计系统本身也存在固有限制。特定的操作模式,例如 Cursor 的 Cloud Agent 或无头 CLI,可能不会发出某些挂钩事件,从而在记录中留下文件化的空白。虽然从审计追踪中编辑敏感数据对于防止产生新的安全风险至关重要,但剩余的上下文,例如文件路径、命令和策略响应,必须足以确保追踪对于调查仍然有用,而不会产生另一个秘密存储。

    分享这篇文章

    原文报道: Dev Community我们不转载全文, 阅读原文 →

    相关文章

    6 则