Anthropic 近日介紹了其在 Model Context Protocol(MCP) 上的新實踐——通過“代碼執行(code execution)”方式,讓 AI Agent 以更高效率調用外部工具與數據服務。
隨着 AI Agent 需要連接數百甚至上千個工具,傳統做法會把所有工具定義與中間結果塞進模型上下文,導致 token 消耗巨大、響應延遲增加、甚至出現上下文溢出。Anthropic 指出,這是當前大規模 Agent 系統的主要性能瓶頸。
新的方案將 MCP 工具暴露為“代碼 API”,讓 Agent 通過生成並執行代碼來調用工具。工具定義在用到時才動態加載,而中間數據處理也在執行環境中完成,僅返回最終結果給模型。這不僅減少模型需要處理的數據量,也讓邏輯控制、循環、過濾等工作在代碼層面高效完成。
這裏以“過濾大規模數據”作為示例:如果從 Google Sheet 拉取 10,000 行數據,先通過代碼做篩選、只把少量結果傳回模型,而非把所有 10,000 行數據都塞入上下文。
官方測試顯示,這種模式能將上下文佔用從約 15 萬 tokens 降至約 2 千 tokens,節省幅度接近 99%。同時,代碼執行還能提升隱私安全,因為敏感數據可在執行環境中預處理後再返回給模型。
Anthropic 強調,代碼執行模式帶來更強的工具組合能力與可維護性,但也需要安全沙箱、資源限制等基礎設施配合。公司鼓勵開發者在 MCP 生態中探索更多實際落地場景。