--- title: "當人工智能開始自我構建時會發生什麼情況？" type: "News" locale: "zh-HK" url: "https://longbridge.com/zh-HK/news/286458692.md" description: "理查德·索徹（Richard Socher）創辦了位於舊金山的人工智能初創公司 Recursive Superintelligence，獲得了 6.5 億美元的融資。該公司旨在開發一種遞歸自我改進的人工智能模型，能夠自主識別和修復自身的弱點。索徹強調了一種獨特的方法，通過開放性來實現這一目標，與傳統的人工智能改進方法形成對比。該初創公司的團隊包括一些知名的人工智能研究人員，他們專注於自動化研究創意的構思、實施和驗證，最終力求通過人工智能系統的共同進化實現新的人工智能自我意識和安全水平" datetime: "2026-05-14T19:59:18.000Z" locales: - [zh-CN](https://longbridge.com/zh-CN/news/286458692.md) - [en](https://longbridge.com/en/news/286458692.md) - [zh-HK](https://longbridge.com/zh-HK/news/286458692.md) --- # 當人工智能開始自我構建時會發生什麼情況？ 理查德·索徹在人工智能領域已經是一個重要人物，以創辦早期聊天機器人初創公司 You.com 而聞名，之前還參與了 Imagenet 的工作。現在，他加入了以研究為重點的人工智能初創公司 Recursive Superintelligence，這是一家總部位於舊金山的初創公司，週三剛剛宣佈獲得 6.5 億美元的融資。 索徹在這個新項目中與一羣傑出的人工智能研究人員合作，包括彼得·諾維格和 Cresta 的聯合創始人 Tim Shi。他們共同致力於創建一個遞歸自我改進的人工智能模型，這種模型能夠自主識別自身的弱點並重新設計自己以修復這些弱點，而無需人類參與——這是當代人工智能研究長期以來追求的聖盃。 我在發佈後通過 Zoom 與他進行了交談，深入探討了 Recursive 的獨特技術方法，以及他為什麼不認為這個新項目是一個 neolab，即一個優先考慮研究而非產品開發的新一代人工智能初創公司。 這次採訪經過編輯以縮短長度和提高清晰度。 **我們現在聽到很多關於遞歸的討論！這似乎是不同實驗室的一個共同目標。你認為你們的獨特方法是什麼？** 我們獨特的方法是利用開放性來實現遞歸自我改進，這是目前還沒有人實現的目標。這對很多人來説是一個難以捉摸的目標。很多人已經假設，當你進行自動研究時，它就會發生。你知道，你可以讓人工智能去改進其他東西，這可能是一個機器學習系統，或者你寫的一封信，或者其他任何東西，對吧？但那並不是遞歸自我改進。那只是改進。 我們的主要關注點是構建真正的遞歸自我改進的超級智能，規模化意味着整個研究思想的構思、實施和驗證過程都是自動化的。 首先 \[它將自動化\] 人工智能研究思想，最終任何類型的研究思想，甚至最終在物理領域。但當人工智能在自我工作時，它特別強大，並且正在發展一種新的自我意識，意識到自身的不足。 **你使用了開放性這個術語——它有特定的技術含義嗎？** 確實有。實際上，我們的聯合創始人 Tim Rocktäschel 曾在谷歌 DeepMind 領導開放性和自我改進團隊，特別是參與了世界模型 Genie 3 的工作，這是開放性的一個很好的例子。你可以告訴它任何概念、任何世界、任何代理，它都會創建出來，並且是互動的。 在生物進化中，動物適應環境，然後其他動物對這些適應進行反適應。這是一個可以進化數十億年的過程，持續發生有趣的事情，對吧？這就是我們在 \[頭部\] 發展出眼睛的方式。 另一個例子是來自 Tim 的另一篇論文中的彩虹團隊。你聽説過紅隊嗎？ **在網絡安全中，它意味着**—— 所以，紅隊也必須在 LLM 的上下文中進行。基本上，你試圖讓 LLM 告訴你如何製造炸彈，而你希望確保它不會這樣做。 現在，人類可以坐在那裏很長時間，想出人工智能不應該説的有趣例子。但如果你用第二個人工智能測試第一個人工智能，而第二個人工智能的任務是讓第一個人工智能 \[嘗試\] 説出所有可能的壞話。然後它們可以進行數百萬次迭代的交互。 你實際上可以讓兩個人工智能共同進化。一個不斷攻擊另一個，然後不僅提出一個角度，而是許多不同的角度，因此有了彩虹的比喻。然後你可以給第一個人工智能接種疫苗，從而變得越來越安全。這是 Tim Rocktaeschel 的一個想法，現在在所有主要實驗室中都在使用。 **你怎麼知道什麼時候完成？我想這永遠不會完成。** 這些事情中的一些永遠不會完成。你總是可以變得更聰明。你總是可以在編程和數學等方面變得更好。智力是有一些界限的；我實際上正在嘗試正式化這些界限，但它們是天文數字。我們距離這些極限還很遠。 **作為一個 neolab，感覺你應該在做一些主要實驗室沒有做的事情。所以這裏的部分含義是，你認為主要實驗室不會通過他們正在做的事情達到 RSI\[遞歸自我改進\]。這樣説公平嗎？** 我不能真正評論他們在做什麼，但我確實認為我們在以不同的方式接近這個問題。我們真正擁抱開放性的概念，我們的團隊完全專注於這個願景。團隊在過去十年中一直在這個領域進行研究並發表論文。團隊在推動該領域向前發展並推出真正產品方面有着良好的記錄。你知道，Tim Shi 將 Cresta 打造成為獨角獸。Josh Tobin 是 OpenAI 的第一批成員之一，最終領導了他們的 Codex 團隊和深度研究團隊。 我實際上有時對這個 neolab 類別感到有些掙扎。我覺得我們不僅僅是一個實驗室。我希望我們能成為一家真正可行的公司，擁有真正讓人們喜歡使用的出色產品，對人類產生積極影響。 **那麼你計劃什麼時候推出你的第一個產品？** 我對此考慮了很多。團隊取得了如此大的進展，我們可能會實際提前我們最初假設的時間表。但確實會有產品，你們需要等待幾個季度，而不是幾年。 **關於遞歸自我改進的一個想法是，一旦我們擁有這種系統，計算能力就成為唯一重要的資源。你運行系統的速度越快，它就會改進得越快，而沒有外部人類活動會真正產生影響。所以競爭就變成了，我們能投入多少處理能力。你認為這是我們即將走向的世界嗎？** 計算能力不容小覷。我認為在未來，一個非常重要的問題將是：人類希望花費多少計算能力來解決哪些問題？這裏有癌症，那裏有病毒——你想先解決哪個？你希望投入多少計算能力？最終這將成為資源分配的問題。這將是世界上最大的議題之一。 ### 相關股票 - [GOOG.US](https://longbridge.com/zh-HK/quote/GOOG.US.md) - [AMD.US](https://longbridge.com/zh-HK/quote/AMD.US.md) - [GOOGL.US](https://longbridge.com/zh-HK/quote/GOOGL.US.md) - [NVDL.US](https://longbridge.com/zh-HK/quote/NVDL.US.md) - [XLK.US](https://longbridge.com/zh-HK/quote/XLK.US.md) - [NVDY.US](https://longbridge.com/zh-HK/quote/NVDY.US.md) - [VGT.US](https://longbridge.com/zh-HK/quote/VGT.US.md) - [XSW.US](https://longbridge.com/zh-HK/quote/XSW.US.md) - [AMUU.US](https://longbridge.com/zh-HK/quote/AMUU.US.md) - [AMDL.US](https://longbridge.com/zh-HK/quote/AMDL.US.md) - [CLOU.US](https://longbridge.com/zh-HK/quote/CLOU.US.md) - [IGPT.US](https://longbridge.com/zh-HK/quote/IGPT.US.md) - [SNSR.US](https://longbridge.com/zh-HK/quote/SNSR.US.md) - [NVDU.US](https://longbridge.com/zh-HK/quote/NVDU.US.md) - [GGLL.US](https://longbridge.com/zh-HK/quote/GGLL.US.md) - [IGV.US](https://longbridge.com/zh-HK/quote/IGV.US.md) - [IXN.US](https://longbridge.com/zh-HK/quote/IXN.US.md) - [GOOW.US](https://longbridge.com/zh-HK/quote/GOOW.US.md) - [NVDX.US](https://longbridge.com/zh-HK/quote/NVDX.US.md) - [RSPT.US](https://longbridge.com/zh-HK/quote/RSPT.US.md) ## 相關資訊與研究 - [李強：積極促進智能機器人迭代升級](https://longbridge.com/zh-HK/news/286896286.md) - [AI 丨谷歌推出 Gemini 新款模型和智能代理](https://longbridge.com/zh-HK/news/286954977.md) - [鎧俠純益估飆增 46 倍、強化與輝達合作 擬赴美上市](https://longbridge.com/zh-HK/news/286691079.md) - [輝達引領科技股上漲，但市場需警惕記憶體價格下跌及外部挑戰](https://longbridge.com/zh-HK/news/286854849.md) - [AI 丨谷歌徹底重構搜索框 加入編程工具](https://longbridge.com/zh-HK/news/286956605.md)