OpenAI 創始人之一，AI 大神 Andrej Karpathy 近日發佈年度覆盤，稱 2025 年是大型語言模型領域蓬勃發展的一年，出現了六個關鍵的&#34;範式轉變&#34;拐點。這些變化不僅改變了行業格局，更重要的是揭示了 LLM 正在演變成一種全新的智能形態。
12 月 20 日，據硬 AI 消息，Karpathy 在社交平台 X 上發佈的年度覆盤中表示，LLM 正在演變成一種新型智能，&#34;比我預期的要聰明得多，同時也比我預期的要笨得多&#34;。
<img class=" wscnph" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/42ee8248-0650-4766-a5b6-ba29e350952b.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="473" height="309" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/42ee8248-0650-4766-a5b6-ba29e350952b.png"/>
他指出，今年出現了 6 個改變行業格局的&#34;範式轉變&#34;關鍵拐點，其中基於可驗證獎勵的強化學習（RLVR）成為 LLM 生產流程中的新階段，各大實驗室將原本用於預訓練的算力轉向了更長週期的強化學習訓練。
他特別強調了 LLM 智能的&#34;鋸齒狀&#34;特徵，稱這些模型既是博學的天才，又像是思維混亂的小學生。Karpathy 表示，LLM 不是在&#34;進化動物&#34;而是在&#34;召喚幽靈&#34;，這種全新的智能形態需要用不同的視角來理解。
他在覆盤中指出，從預訓練到強化學習的技術演進、從文本交互到圖形界面的用户體驗革新，以及從專業編程到&#34;氛圍編碼&#34;的能力普及，都標誌着 AI 應用正在進入新的發展階段。
儘管目前能力已經極其有用，但 Karpathy 認為整個行業實現出的 LLM 潛力還不到 10%，預計將看到持續且飛速的進展，但技術挑戰仍然艱鉅。
<h2 style="text-align: left">拐點一：基於可驗證獎勵的強化學習改變訓練範式</h2>
2025 年最重要的技術突破是基於可驗證獎勵的強化學習（RLVR）成為 LLM 訓練的新階段。
Karpathy 稱，傳統的生產級 LLM 訓練流程包括預訓練、指令微調和基於人類反饋的強化學習三個階段，而 RLVR 的加入徹底改變了這一格局。
RLVR 通過在數學題、代碼謎題等可自動驗證的環境中訓練，使 LLM 自發演化出類似&#34;推理&#34;的策略。模型學會將問題拆解為中間計算步驟，並掌握多種來回嘗試、推導解決問題的方法。DeepSeek R1 論文展示了這些策略的具體表現。
與計算量較小的 SFT 和 RLHF 不同，RLVR 針對客觀且不可作弊的獎勵函數，允許更長週期的優化。這種方法具有極高的&#34;能力/成本比&#34;，吞噬了原本用於預訓練的算力。2025 年大部分能力提升都源於各實驗室消化這一新階段的&#34;算力積壓&#34;。
OpenAI o1 是 RLVR 模型的首次展示，但 o3 的發佈才是真正的拐點，讓人能直觀感受到差異。RLVR 還帶來了一個全新調節旋鈕：通過生成更長推理路徑、增加&#34;思考時間&#34;來控制推理能力。
<h2 style="text-align: left">拐點二：&#34;幽靈智能&#34;展現鋸齒狀性能特徵</h2>
2025 年，業界開始真正理解 LLM 智能的獨特&#34;形態&#34;。
Karpathy 指出，我們並非在&#34;進化動物&#34;，而是在&#34;召喚幽靈&#34;。LLM 的神經架構、訓練數據、算法和優化壓力都與生物智能完全不同，產生了全新的智能實體。
人類神經網絡為叢林部落生存而優化，LLM 神經網絡則為模仿人類文本、獲取數學題獎勵和在 LM Arena 獲得點贊而優化。這種差異導致 LLM 展現出&#34;鋸齒狀&#34;性能特徵：既是博學天才，又像認知障礙的小學生，前一秒解難題，後一秒就可能被簡單提示詞破解。
隨着可驗證領域的 RLVR 應用，LLM 在這些領域附近出現能力&#34;激增&#34;，但整體表現極不均衡。這種現象讓 Karpathy 對基準測試產生信任危機，因為基準測試本質上就是可驗證環境，極易受到 RLVR 攻擊。實驗室團隊通過&#34;刷榜&#34;在測試集周圍構建環境，&#34;面向測試集訓練&#34;成為新藝術形式。
<h2 style="text-align: left">拐點三：Cursor 引領新一代 LLM 應用層崛起</h2>
Cursor 的崛起不僅在於其成功，更在於它揭示了&#34;LLM 應用&#34;的全新層級。人們開始討論各行各業的&#34;Cursor 版本&#34;，標誌着垂直領域 LLM 應用的興起。
像 Cursor 這樣的 LLM 應用為特定垂直領域封裝並編排 LLM 調用，具備四個核心功能：
<blockquote>
處理&#34;上下文工程&#34;；在底層編排多個 LLM 調用，串聯成複雜的有向無環圖，平衡性能和成本；為人類參與提供特定應用的圖形界面；提供&#34;自主程度調節滑塊&#34;。
</blockquote>
2025 年業界熱議這個新應用層的&#34;厚度&#34;問題：LLM 實驗室會通吃所有應用，還是給垂直應用留下發展空間？
Karpathy 認為，LLM 實驗室傾向於培養通用能力的&#34;大學生&#34;，而 LLM 應用則通過提供私有數據、傳感器、執行器和反饋閉環，將這些&#34;大學生&#34;組織成特定領域的專業從業者。
<h2 style="text-align: left">拐點四：Claude Code 開創本地 AI 智能體新範式</h2>
Claude Code 成為 LLM 智能體的首次令人信服展示，它以循環方式串聯工具調用和推理，進行長時間問題解決。更重要的是，Claude Code 運行在用户電腦上，使用私有環境、數據和上下文。
Karpathy 認為 OpenAI 在這方面走偏了，過度專注雲端容器和 ChatGPT 編排，而非本地部署。雖然雲端智能體集羣像&#34;AGI 終局&#34;，但在當前能力參差不齊的過渡階段，直接在電腦上運行智能體，與開發者具體配置協作更有意義。
Claude Code 抓住了正確的優先順序，將其打包成精美、極簡的命令行形態，改變了 AI 的樣貌。AI 不再是被動訪問的網站，而是&#34;住&#34;在電腦裏的靈體。這種本地化、個性化的 AI 交互範式為未來發展指明瞭方向，強調了隱私保護和個性化體驗的重要性。
<h2 style="text-align: left">拐點五：Vibe Coding 讓編程能力普及化</h2>
2025 年 AI 跨越關鍵能力閾值，使人們僅憑英語就能構建複雜程序，完全忽略底層代碼存在。&#34;Vibe Coding&#34;概念的流行標誌着編程門檻的徹底降低。
Vibe Coding 使編程不再是專業人士專利，任何人都能參與。這印證了 LLM&#34;權力歸於人民&#34;的特點：與以往技術不同，普通人從 LLM 獲益遠超專業人士、企業和政府。不僅普通人能嘗試編程，專業開發者也能創造更多原本不會開發的軟件。
Karpathy 分享了自己的實踐經驗：
<blockquote>
用 Rust 開發高效 BPE 分詞器，創建各種快速 Demo 應用，甚至為找單個 Bug 開發整個臨時應用。代碼變得免費、瞬時、可塑，用完即棄。這種變化將重塑軟件生態，改變職業定義，讓創意實現的成本接近零。
</blockquote>
<h2 style="text-align: left">拐點六：Nano Banana 開啓 LLM 圖形界面時代</h2>
谷歌 Gemini Nano Banana 被 Karpathy 稱為 2025 年最震撼、最具範式轉移意義的模型。在他的世界觀中，LLM 是繼 1970-80 年代計算機後的下一次重大計算範式，將產生類似歷史意義的創新。
當前與 LLM 對話類似 80 年代向電腦控制枱輸入命令。文本雖是計算機和 LLM 偏好的原始數據表示，但並非人類偏好格式。人類不喜歡閲讀長文本，更喜歡視覺和空間方式消費信息，這是 GUI 在傳統計算中被髮明的原因。
LLM 也應以人類偏好格式交流：圖像、信息圖、幻燈片、白板、動畫視頻、網頁應用等。Emoji 和 Markdown 是早期嘗試，但真正的&#34;LLM GUI&#34;需要更深層創新。
Nano Banana 提供了這種可能性的早期雛形，其顯著特徵不僅是圖像生成，更是文本生成、圖像生成和世界知識在模型權重中的交織融合。
這種多模態融合能力預示着未來 AI 交互界面的根本變革，從純文本對話轉向富媒體、多感官的沉浸式體驗。

深度求索

OpenAI

AI 大神 Karpathy 指出，2025 年 AI 大模型出現六個關鍵拐點：基於可驗證獎勵的強化學習改變訓練範式，模型展現” 鋸齒狀” 幽靈智能特徵，Cursor 引領垂直應用崛起，Claude Code 開創本地智能體新模式，Vibe Coding 讓編程能力普及化，Nano Banana 開啓圖形界面時代。他認為 LLM 正演變成全新智能形態，既博學又笨拙，目前潛力僅實現不到 10%。

Andrej Karpathy 年度覆盤：AI 大模型正在演變成一種新型智能，今年出現 6 個關鍵拐點