AWS 等公司披露 AI 智能體長時任務防上下文溢出與目標丟失機制

Techub News 消息，AWS 自主雲編碼智能體設計指南指出，淺層智能體在長時任務中易受上下文溢出與目標丟失影響，而解決該問題的關鍵在於智能體框架層而非模型本身。該框架通過上下文預算與卸載、壓縮、記憶策略及待辦狀態四種機制，將淺層循環轉化為深度智能體。 具體機制包括：當工具響應超過 2 萬詞元時，Deep Agents 會將其寫入文件係統並替換為文件路徑與前十行預覽；當會話上下文超過模型窗口 85% 時，較早的寫入與編輯工具調用會被截斷為指針。Claude Code 則對首次提示前的加載内容進行預算，自動記憶上限為前 200 行或 25KB。 研究顯示，單純擴大上下文窗口並非有效解決方案。Chroma 的上下文衰減報告評估了包括 GPT-4.1、Claude 4 在内的 18 個大模型，發現隨著輸入長度增加，性能可靠性會下降。Anthropic 的上下文工程指南解釋其機制在於注意力會為 n 個詞元創建 n² 的成對關係，每個新增詞元都會消耗有限的「注意力預算」。（MarkTechPost）

内容來源：TECHUB NEWS