<p>“上下文工程是一個非常好的術語，我希望我能想出這個術語，” LangChain 的聯合創始人哈里森·蔡斯（Harrison Chase）在反思行業日益關注使人工智能能夠處理複雜的多步驟任務時表示。他強調，構建可靠的長期人工智能代理的關鍵路徑不僅在於不斷改進基礎模型，還在於掌握圍繞它們的複雜基礎設施和反饋循環。此次對話由紅杉資本的黃松雅（Sonya Huang）和帕特·格雷迪（Pat Grady）主持，在《訓練數據》播客中提供了關於將人工智能從單輪提示轉變為能夠執行多日項目的自主系統所需的架構演變的深刻分析。</p>
<p>蔡斯表示，他的 LangChain 框架已成為代理開發的核心，長期代理的核心挑戰在於在較長時間和多次交互中管理狀態和上下文。早期的代理嘗試，如 AutoGPT，證明了這一概念，但由於基礎模型和支架缺乏必要的穩健性，最終不可靠。現在，隨着更強大的大型語言模型（LLMs）的出現，行業正在從簡單框架向紅杉所稱的 “代理工具” 轉變——這些是旨在引導和約束基礎模型非確定性特徵的有見地的結構化架構。</p>
<p>代理引入的根本困難在於侵蝕了傳統軟件開發範式。在傳統軟件中，代碼本身是最終的真實來源，決定了精確的執行流程。然而，代理在循環中運行，每個決策都會影響下一步，造成不可預測結果的級聯。蔡斯指出：“在代理中，它們在運行和重複，因此你實際上不知道第 14 步的上下文是什麼，因為在此之前有 13 步可能會引入任意的內容。” 這種複雜性要求新的可觀察性和調試方法，使傳統堆棧變得過時。</p>
<p>這種對可見性的需求使得 “追蹤”——代理執行的詳細結構化日誌——提升到了新的地位。追蹤捕捉了 LLM 所做的每一次交互、工具調用和決策，為開發人員提供了理解和改進代理行為所需的關鍵數據。蔡斯認為，這代表了一種深刻的轉變：“軟件的真實來源在於代碼……對於代理來説，現在是代碼和追蹤的結合，追蹤是你可以看到真實來源的地方。” 這意味着，對於構建代理的公司來説，生成、分析和利用這些追蹤的能力正迅速成為競爭優勢。</p>
<p>這種新架構最有效的領域是那些從自動化 “初稿” 中顯著受益的領域。編碼代理正在引領潮流，因為它們可以直接與文件系統交互，執行代碼，並生成人類可以審查和完善的拉取請求。蔡斯指出：“目前長期代理的殺手級應用是那些具有 ‘初稿’ 概念的地方。” 這同樣適用於 AI SRE 遍歷日誌以診斷事件或金融分析師生成初步研究報告。在這些場景中，代理處理繁重的工作和複雜的多步驟數據檢索，而人類監督確保最終產品符合高標準的可靠性。</p>
<p>現代代理工具的一個主要組成部分是長期記憶和工具的集成，特別是對文件系統的訪問。無論是通過直接的 bash 命令還是模擬的虛擬文件系統，代理讀取、寫入和管理文件的能力對於在上下文窗口僅不足以維持狀態的漫長複雜任務中至關重要。這種記憶能力對於實現遞歸自我改進也至關重要。通過反思過去失敗的追蹤——這一過程通常被稱為 “睡眠時間計算”——代理可以自主地完善自己的指令或規劃工具。</p>
<p>此外，代理的非確定性特徵要求對評估和質量保證採取新的方法。與傳統軟件開發不同，傳統軟件開發中單元測試提供明確的通過/失敗標準，而代理評估則需要納入人類判斷。這是通過 “對齊評估”（Align Evals）實現的，人類對追蹤進行註釋，提供有價值的反饋循環，幫助將代理的表現與期望結果對齊。對於希望構建穩健代理的公司來説，這種透明追蹤、外部記憶和人機協作驗證的結合被證明比單純依賴原始模型能力更為有效。這一轉變已經影響到人才，許多成功的代理工程團隊趨向年輕，未受先前對軟件構建方式的成見所累，擁抱上下文工程的迭代和數據驅動特性。</p>

<p>哈里森·蔡斯（Harrison Chase），LangChain 的聯合創始人，在與紅杉資本的播客中討論了上下文工程在開發長時程人工智能代理中的重要性。他強調，在這一領域取得成功依賴於掌握基礎設施和反饋循環，而不僅僅是改進基礎模型。對話中突出了隨着時間推移管理狀態和上下文的挑戰、對詳細執行日誌（痕跡）的需求，以及長期記憶的整合。蔡斯指出，分析這些痕跡的能力正成為構建代理的公司的競爭優勢，特別是在需要自動生成初稿的領域</p>

<p>“Context engineering is such a good term, I wish I came up with that term,” admitted Harrison Chase, co-founder of LangChain, reflecting on the industry’s accelerating focus toward enabling artificial intelligence to tackle complex, multi-step tasks. He emphasized that the critical path to building reliable, long-horizon AI agents lies not solely in continually improving foundational models, but in mastering the complex infrastructure and feedback loops surrounding them. The conversation, hosted by Sonya Huang and Pat Grady of Sequoia Capital on the Training Data podcast, provided a sharp analysis of the architectural evolution required to move AI from single-turn prompts to autonomous systems capable of executing multi-day projects.</p>
<div class="lb-trans"><p>“上下文工程是一個非常好的術語，我希望我能想出這個術語，” LangChain 的聯合創始人哈里森·蔡斯（Harrison Chase）在反思行業日益關注使人工智能能夠處理複雜的多步驟任務時表示。他強調，構建可靠的長期人工智能代理的關鍵路徑不僅在於不斷改進基礎模型，還在於掌握圍繞它們的複雜基礎設施和反饋循環。此次對話由紅杉資本的黃松雅（Sonya Huang）和帕特·格雷迪（Pat Grady）主持，在《訓練數據》播客中提供了關於將人工智能從單輪提示轉變為能夠執行多日項目的自主系統所需的架構演變的深刻分析。</p>
</div><p>Chase, whose LangChain framework has become central to agent development, explained that the core challenge of long-horizon agents is managing state and context over extended periods of time and numerous interactions. Early attempts at agents, such as AutoGPT, proved the concept but were ultimately unreliable because the underlying models and scaffolding lacked the necessary robustness. Now, with more capable Large Language Models (LLMs), the industry is moving past simple frameworks toward what Sequoia has termed “agent harnesses”—opinionated, structured architectures designed to guide and constrain the non-deterministic nature of the underlying models.</p>
<div class="lb-trans"><p>蔡斯表示，他的 LangChain 框架已成為代理開發的核心，長期代理的核心挑戰在於在較長時間和多次交互中管理狀態和上下文。早期的代理嘗試，如 AutoGPT，證明了這一概念，但由於基礎模型和支架缺乏必要的穩健性，最終不可靠。現在，隨着更強大的大型語言模型（LLMs）的出現，行業正在從簡單框架向紅杉所稱的 “代理工具” 轉變——這些是旨在引導和約束基礎模型非確定性特徵的有見地的結構化架構。</p>
</div><p>The fundamental difficulty agents introduce is the erosion of the traditional software development paradigm. In conventional software, the code itself is the definitive source of truth, dictating precise execution flows. Agents, however, operate in loops where every decision influences the next step, creating a cascade of unpredictable results. “In agents, they’re running and repeating and so you don’t actually know what the context at step 14 will be because there’s 13 steps before that that could pull arbitrary things in,” Chase noted. This complexity demands new methods for observability and debugging, making the traditional stack obsolete.</p>
<div class="lb-trans"><p>代理引入的根本困難在於侵蝕了傳統軟件開發範式。在傳統軟件中，代碼本身是最終的真實來源，決定了精確的執行流程。然而，代理在循環中運行，每個決策都會影響下一步，造成不可預測結果的級聯。蔡斯指出：“在代理中，它們在運行和重複，因此你實際上不知道第 14 步的上下文是什麼，因為在此之前有 13 步可能會引入任意的內容。” 這種複雜性要求新的可觀察性和調試方法，使傳統堆棧變得過時。</p>
</div><p>This necessity for visibility has elevated “traces”—detailed, structured logs of agent execution—to a new status. Traces capture every interaction, tool call, and decision made by the LLM, providing developers with the critical data needed to understand and improve agent behavior. Chase argued that this represents a profound shift: “The source of truth for software is in code… For agents, it’s a combination now of code and traces are where you can see the source of truth.” This means that for companies building agents, the ability to generate, analyze, and act upon these traces is quickly becoming a competitive moat.</p>
<div class="lb-trans"><p>這種對可見性的需求使得 “追蹤”——代理執行的詳細結構化日誌——提升到了新的地位。追蹤捕捉了 LLM 所做的每一次交互、工具調用和決策，為開發人員提供了理解和改進代理行為所需的關鍵數據。蔡斯認為，這代表了一種深刻的轉變：“軟件的真實來源在於代碼……對於代理來説，現在是代碼和追蹤的結合，追蹤是你可以看到真實來源的地方。” 這意味着，對於構建代理的公司來説，生成、分析和利用這些追蹤的能力正迅速成為競爭優勢。</p>
</div><p>The domains where this new architecture is proving most effective are those that benefit significantly from automated “first drafts.” Coding agents are leading the charge, as they can interact directly with the file system, execute code, and generate pull requests that humans can then review and refine. Chase pointed out that “The killer application of long-horizon agents right now is places where you have this ‘first draft’ type of concept.” This applies equally to AI SREs traversing logs to diagnose incidents or financial analysts generating initial research reports. In these scenarios, the agent handles the heavy lifting and complex, multi-step data retrieval, while human oversight ensures the final product meets high standards of reliability.</p>
<div class="lb-trans"><p>這種新架構最有效的領域是那些從自動化 “初稿” 中顯著受益的領域。編碼代理正在引領潮流，因為它們可以直接與文件系統交互，執行代碼，並生成人類可以審查和完善的拉取請求。蔡斯指出：“目前長期代理的殺手級應用是那些具有 ‘初稿’ 概念的地方。” 這同樣適用於 AI SRE 遍歷日誌以診斷事件或金融分析師生成初步研究報告。在這些場景中，代理處理繁重的工作和複雜的多步驟數據檢索，而人類監督確保最終產品符合高標準的可靠性。</p>
</div><p>A major component of the modern agent harness is the integration of long-term memory and tools, particularly access to file systems. Whether through direct bash commands or simulated virtual file systems, the ability for an agent to read, write, and manage files is essential for maintaining state across lengthy, complex tasks where the context window of the LLM alone is insufficient. This memory capability is also crucial for enabling recursive self-improvement. By reflecting on traces from past failures—a process often referred to as “sleep time compute”—agents can autonomously refine their own instructions or planning tools.</p>
<div class="lb-trans"><p>現代代理工具的一個主要組成部分是長期記憶和工具的集成，特別是對文件系統的訪問。無論是通過直接的 bash 命令還是模擬的虛擬文件系統，代理讀取、寫入和管理文件的能力對於在上下文窗口僅不足以維持狀態的漫長複雜任務中至關重要。這種記憶能力對於實現遞歸自我改進也至關重要。通過反思過去失敗的追蹤——這一過程通常被稱為 “睡眠時間計算”——代理可以自主地完善自己的指令或規劃工具。</p>
</div><p>Furthermore, the non-deterministic nature of agents mandates a new approach to evaluation and quality assurance. Unlike traditional software development, where unit tests provide definitive pass/fail criteria, agent evaluation requires incorporating human judgment. This is achieved through “Align Evals,” where humans annotate traces, providing a valuable feedback loop that helps align the agent’s performance with desired outcomes. For companies looking to build robust agents, this combination of transparent tracing, externalized memory, and human-in-the-loop validation is proving far more effective than relying on raw model capability alone. The shift is already affecting talent, with many successful agent engineering teams skewing younger, unburdened by prior preconceptions of how software should be built, and embracing the iterative, data-driven nature of context engineering.</p>
<div class="lb-trans"><p>此外，代理的非確定性特徵要求對評估和質量保證採取新的方法。與傳統軟件開發不同，傳統軟件開發中單元測試提供明確的通過/失敗標準，而代理評估則需要納入人類判斷。這是通過 “對齊評估”（Align Evals）實現的，人類對追蹤進行註釋，提供有價值的反饋循環，幫助將代理的表現與期望結果對齊。對於希望構建穩健代理的公司來説，這種透明追蹤、外部記憶和人機協作驗證的結合被證明比單純依賴原始模型能力更為有效。這一轉變已經影響到人才，許多成功的代理工程團隊趨向年輕，未受先前對軟件構建方式的成見所累，擁抱上下文工程的迭代和數據驅動特性。</p>
</div>

上下文工程是新的 AI 護城河：LangChain 的 Harrison Chase 談論長期代理