<p>理查德·索徹在人工智能領域已經是一個重要人物，以創辦早期聊天機器人初創公司 You.com 而聞名，之前還參與了 Imagenet 的工作。現在，他加入了以研究為重點的人工智能初創公司 Recursive Superintelligence，這是一家總部位於舊金山的初創公司，週三剛剛宣佈獲得 6.5 億美元的融資。</p>
<p>索徹在這個新項目中與一羣傑出的人工智能研究人員合作，包括彼得·諾維格和 Cresta 的聯合創始人 Tim Shi。他們共同致力於創建一個遞歸自我改進的人工智能模型，這種模型能夠自主識別自身的弱點並重新設計自己以修復這些弱點，而無需人類參與——這是當代人工智能研究長期以來追求的聖盃。</p>
<p>我在發佈後通過 Zoom 與他進行了交談，深入探討了 Recursive 的獨特技術方法，以及他為什麼不認為這個新項目是一個 neolab，即一個優先考慮研究而非產品開發的新一代人工智能初創公司。</p>
<p>這次採訪經過編輯以縮短長度和提高清晰度。</p>
<p><strong>我們現在聽到很多關於遞歸的討論！這似乎是不同實驗室的一個共同目標。你認為你們的獨特方法是什麼？</strong></p>
<p>我們獨特的方法是利用開放性來實現遞歸自我改進，這是目前還沒有人實現的目標。這對很多人來説是一個難以捉摸的目標。很多人已經假設，當你進行自動研究時，它就會發生。你知道，你可以讓人工智能去改進其他東西，這可能是一個機器學習系統，或者你寫的一封信，或者其他任何東西，對吧？但那並不是遞歸自我改進。那只是改進。</p>
<p>我們的主要關注點是構建真正的遞歸自我改進的超級智能，規模化意味着整個研究思想的構思、實施和驗證過程都是自動化的。</p>
<p>首先 [它將自動化] 人工智能研究思想，最終任何類型的研究思想，甚至最終在物理領域。但當人工智能在自我工作時，它特別強大，並且正在發展一種新的自我意識，意識到自身的不足。</p>
<p><strong>你使用了開放性這個術語——它有特定的技術含義嗎？</strong></p>
<p>確實有。實際上，我們的聯合創始人 Tim Rocktäschel 曾在谷歌 DeepMind 領導開放性和自我改進團隊，特別是參與了世界模型 Genie 3 的工作，這是開放性的一個很好的例子。你可以告訴它任何概念、任何世界、任何代理，它都會創建出來，並且是互動的。</p>
<p>在生物進化中，動物適應環境，然後其他動物對這些適應進行反適應。這是一個可以進化數十億年的過程，持續發生有趣的事情，對吧？這就是我們在 [頭部] 發展出眼睛的方式。</p>
<p>另一個例子是來自 Tim 的另一篇論文中的彩虹團隊。你聽説過紅隊嗎？</p>
<p><strong>在網絡安全中，它意味着</strong>——</p>
<p>所以，紅隊也必須在 LLM 的上下文中進行。基本上，你試圖讓 LLM 告訴你如何製造炸彈，而你希望確保它不會這樣做。</p>
<p>現在，人類可以坐在那裏很長時間，想出人工智能不應該説的有趣例子。但如果你用第二個人工智能測試第一個人工智能，而第二個人工智能的任務是讓第一個人工智能 [嘗試] 説出所有可能的壞話。然後它們可以進行數百萬次迭代的交互。</p>
<p>你實際上可以讓兩個人工智能共同進化。一個不斷攻擊另一個，然後不僅提出一個角度，而是許多不同的角度，因此有了彩虹的比喻。然後你可以給第一個人工智能接種疫苗，從而變得越來越安全。這是 Tim Rocktaeschel 的一個想法，現在在所有主要實驗室中都在使用。</p>
<p><strong>你怎麼知道什麼時候完成？我想這永遠不會完成。</strong></p>
<p>這些事情中的一些永遠不會完成。你總是可以變得更聰明。你總是可以在編程和數學等方面變得更好。智力是有一些界限的；我實際上正在嘗試正式化這些界限，但它們是天文數字。我們距離這些極限還很遠。</p>
<p><strong>作為一個 neolab，感覺你應該在做一些主要實驗室沒有做的事情。所以這裏的部分含義是，你認為主要實驗室不會通過他們正在做的事情達到 RSI[遞歸自我改進]。這樣説公平嗎？</strong></p>
<p>我不能真正評論他們在做什麼，但我確實認為我們在以不同的方式接近這個問題。我們真正擁抱開放性的概念，我們的團隊完全專注於這個願景。團隊在過去十年中一直在這個領域進行研究並發表論文。團隊在推動該領域向前發展並推出真正產品方面有着良好的記錄。你知道，Tim Shi 將 Cresta 打造成為獨角獸。Josh Tobin 是 OpenAI 的第一批成員之一，最終領導了他們的 Codex 團隊和深度研究團隊。</p>
<p>我實際上有時對這個 neolab 類別感到有些掙扎。我覺得我們不僅僅是一個實驗室。我希望我們能成為一家真正可行的公司，擁有真正讓人們喜歡使用的出色產品，對人類產生積極影響。</p>
<p><strong>那麼你計劃什麼時候推出你的第一個產品？</strong></p>
<p>我對此考慮了很多。團隊取得了如此大的進展，我們可能會實際提前我們最初假設的時間表。但確實會有產品，你們需要等待幾個季度，而不是幾年。</p>
<p><strong>關於遞歸自我改進的一個想法是，一旦我們擁有這種系統，計算能力就成為唯一重要的資源。你運行系統的速度越快，它就會改進得越快，而沒有外部人類活動會真正產生影響。所以競爭就變成了，我們能投入多少處理能力。你認為這是我們即將走向的世界嗎？</strong></p>
<p>計算能力不容小覷。我認為在未來，一個非常重要的問題將是：人類希望花費多少計算能力來解決哪些問題？這裏有癌症，那裏有病毒——你想先解決哪個？你希望投入多少計算能力？最終這將成為資源分配的問題。這將是世界上最大的議題之一。</p>

谷歌-C

谷歌-A

<p>理查德·索徹（Richard Socher）創辦了位於舊金山的人工智能初創公司 Recursive Superintelligence，獲得了 6.5 億美元的融資。該公司旨在開發一種遞歸自我改進的人工智能模型，能夠自主識別和修復自身的弱點。索徹強調了一種獨特的方法，通過開放性來實現這一目標，與傳統的人工智能改進方法形成對比。該初創公司的團隊包括一些知名的人工智能研究人員，他們專注於自動化研究創意的構思、實施和驗證，最終力求通過人工智能系統的共同進化實現新的人工智能自我意識和安全水平</p>

<p>Richard Socher has been a major figure in AI for some time, best known for founding the early chatbot startup You.com and, before that, his work on Imagenet. Now, he’s joining the current generation of research-focused AI startups with Recursive Superintelligence, a San Francisco-based startup that came out of stealth on Wednesday with $650 million in funding.</p>
<div class="lb-trans"><p>理查德·索徹在人工智能領域已經是一個重要人物，以創辦早期聊天機器人初創公司 You.com 而聞名，之前還參與了 Imagenet 的工作。現在，他加入了以研究為重點的人工智能初創公司 Recursive Superintelligence，這是一家總部位於舊金山的初創公司，週三剛剛宣佈獲得 6.5 億美元的融資。</p>
</div><p>Socher is joined in the new venture by a cohort of prominent AI researchers, including Peter Norvig and Cresta co-founder Tim Shi. Together, they’re working to create a recursively self-improving AI model, one that can autonomously identify its own weaknesses and redesign itself to fix them, without human involvement — a long-held holy grail of contemporary AI research.</p>
<div class="lb-trans"><p>索徹在這個新項目中與一羣傑出的人工智能研究人員合作，包括彼得·諾維格和 Cresta 的聯合創始人 Tim Shi。他們共同致力於創建一個遞歸自我改進的人工智能模型，這種模型能夠自主識別自身的弱點並重新設計自己以修復這些弱點，而無需人類參與——這是當代人工智能研究長期以來追求的聖盃。</p>
</div><p>I spoke with him on Zoom after the launch, digging into Recursive’s unique technical approach and why he doesn’t think of this new project as a neolab, he informal term for a new generation of AI startups that prioritize research over building products.</p>
<div class="lb-trans"><p>我在發佈後通過 Zoom 與他進行了交談，深入探討了 Recursive 的獨特技術方法，以及他為什麼不認為這個新項目是一個 neolab，即一個優先考慮研究而非產品開發的新一代人工智能初創公司。</p>
</div><p>This interview has been edited for length and clarity.</p>
<div class="lb-trans"><p>這次採訪經過編輯以縮短長度和提高清晰度。</p>
</div><p><strong>We hear a lot about recursion these days! It feels like a very common goal across different labs. What do you see as your unique approach?</strong></p>
<div class="lb-trans"><p><strong>我們現在聽到很多關於遞歸的討論！這似乎是不同實驗室的一個共同目標。你認為你們的獨特方法是什麼？</strong></p>
</div><p>Our unique approach is to use open-endedness to get to recursive self-improvement, which no one has yet achieved. It’s an elusive goal for a lot of people. A lot of people already assume it happens when you just do auto-research. You know, you can take AI and ask it to make some other thing better, which could be a machine learning system, or just a letter that you write, or, you know, whatever it might be, right? But that’s not recursive self-improvement. That’s just improvement.</p>
<div class="lb-trans"><p>我們獨特的方法是利用開放性來實現遞歸自我改進，這是目前還沒有人實現的目標。這對很多人來説是一個難以捉摸的目標。很多人已經假設，當你進行自動研究時，它就會發生。你知道，你可以讓人工智能去改進其他東西，這可能是一個機器學習系統，或者你寫的一封信，或者其他任何東西，對吧？但那並不是遞歸自我改進。那只是改進。</p>
</div><p>Our main focus, is to build truly recursive, self-improving superintelligence at scale, which means that the entire process of ideation, implementation and validation of research ideas would be automatic.</p>
<div class="lb-trans"><p>我們的主要關注點是構建真正的遞歸自我改進的超級智能，規模化意味着整個研究思想的構思、實施和驗證過程都是自動化的。</p>
</div><p>First [it would automate] AI research ideas, eventually any kind of research ideas, even eventually in the physical domains. But it's particularly powerful when it's AI working on itself, and it's developing a new kind of sense of self awareness of its own shortcomings.</p>
<div class="lb-trans"><p>首先 [它將自動化] 人工智能研究思想，最終任何類型的研究思想，甚至最終在物理領域。但當人工智能在自我工作時，它特別強大，並且正在發展一種新的自我意識，意識到自身的不足。</p>
</div><p><strong>You used the term open-ended — does that have a specific technical meaning?</strong></p>
<div class="lb-trans"><p><strong>你使用了開放性這個術語——它有特定的技術含義嗎？</strong></p>
</div><p>It does. In fact, Tim Rocktäschel, one of our cofounders, led the open-endedness and self-improvement teams at Google DeepMind and particularly worked on the world model Genie 3, which is a great example of open-endedness. You can tell it any concept, any world, any agent, and it just creates it, and it's interactive.</p>
<div class="lb-trans"><p>確實有。實際上，我們的聯合創始人 Tim Rocktäschel 曾在谷歌 DeepMind 領導開放性和自我改進團隊，特別是參與了世界模型 Genie 3 的工作，這是開放性的一個很好的例子。你可以告訴它任何概念、任何世界、任何代理，它都會創建出來，並且是互動的。</p>
</div><p>In biological evolution, animals adapt to the environment, and then others counter-adapt to those adaptations. It's just a process that can evolve for billions of years, and interesting stuff keeps happening, right? That's how we developed eyes in our [heads].</p>
<div class="lb-trans"><p>在生物進化中，動物適應環境，然後其他動物對這些適應進行反適應。這是一個可以進化數十億年的過程，持續發生有趣的事情，對吧？這就是我們在 [頭部] 發展出眼睛的方式。</p>
</div><p>Another example is rainbow teaming, from another paper from Tim. Have you heard of red teaming?</p>
<div class="lb-trans"><p>另一個例子是來自 Tim 的另一篇論文中的彩虹團隊。你聽説過紅隊嗎？</p>
</div><p><strong>In cybersecurity, it means</strong>--</p>
<div class="lb-trans"><p><strong>在網絡安全中，它意味着</strong>——</p>
</div><p>So, red teaming also has to be done in an LLM context. Basically you try to get the LLM to tell you how to build a bomb, and you want to make sure that it doesn’t do it.</p>
<div class="lb-trans"><p>所以，紅隊也必須在 LLM 的上下文中進行。基本上，你試圖讓 LLM 告訴你如何製造炸彈，而你希望確保它不會這樣做。</p>
</div><p>Now, humans can sit there for a long time and come up with interesting examples of what the AI shouldn't say. But what if you tested this first AI with a second AI, and that second AI now has the task of making the first AI [try to] say all the possible bad things. And then they can go back and forth for millions of iterations.</p>
<div class="lb-trans"><p>現在，人類可以坐在那裏很長時間，想出人工智能不應該説的有趣例子。但如果你用第二個人工智能測試第一個人工智能，而第二個人工智能的任務是讓第一個人工智能 [嘗試] 説出所有可能的壞話。然後它們可以進行數百萬次迭代的交互。</p>
</div><p>You can actually allow two AIs to co-evolve. One keeps attacking the other, and then comes up with not just one angle but many different angles, and hence the rainbow analogy. And then you can inoculate the first AI, and you become safer and safer. This was an idea from Tim Rocktaeschel, and it’s now used in all the major labs.</p>
<div class="lb-trans"><p>你實際上可以讓兩個人工智能共同進化。一個不斷攻擊另一個，然後不僅提出一個角度，而是許多不同的角度，因此有了彩虹的比喻。然後你可以給第一個人工智能接種疫苗，從而變得越來越安全。這是 Tim Rocktaeschel 的一個想法，現在在所有主要實驗室中都在使用。</p>
</div><p><strong>How do you know when it’s done? I suppose it’s never done.</strong></p>
<div class="lb-trans"><p><strong>你怎麼知道什麼時候完成？我想這永遠不會完成。</strong></p>
</div><p>Some of these things will never be done. You can always get more intelligent. You can always get better at programming and math and so on. There are some bounds on intelligence; I’m actually trying to formalize those right now, but they’re astronomical. We’re very far away from those limits.</p>
<div class="lb-trans"><p>這些事情中的一些永遠不會完成。你總是可以變得更聰明。你總是可以在編程和數學等方面變得更好。智力是有一些界限的；我實際上正在嘗試正式化這些界限，但它們是天文數字。我們距離這些極限還很遠。</p>
</div><p><strong>As a neolab, it feels like you’re supposed to be doing something that the major labs aren’t doing. So part of the implication here is that you don’t think the major labs are going to reach RSI [recursive self-improvement] by doing what they’re doing. Is that fair to say?</strong></p>
<div class="lb-trans"><p><strong>作為一個 neolab，感覺你應該在做一些主要實驗室沒有做的事情。所以這裏的部分含義是，你認為主要實驗室不會通過他們正在做的事情達到 RSI[遞歸自我改進]。這樣説公平嗎？</strong></p>
</div><p>I can’t really comment on what they’re doing, but I do think we’re approaching it differently. We really embrace the concept of open-endedness, and our team is entirely focused on that vision. And the team has been researching this and doing papers in this space for the last decade. And the team has a track record of really pushing the field forward significantly and shipping real products. You know, Tim Shi built Cresta into a unicorn. Josh Tobin was one of the first people at OpenAI and eventually led their Codex teams and the deep research teams.</p>
<div class="lb-trans"><p>我不能真正評論他們在做什麼，但我確實認為我們在以不同的方式接近這個問題。我們真正擁抱開放性的概念，我們的團隊完全專注於這個願景。團隊在過去十年中一直在這個領域進行研究並發表論文。團隊在推動該領域向前發展並推出真正產品方面有着良好的記錄。你知道，Tim Shi 將 Cresta 打造成為獨角獸。Josh Tobin 是 OpenAI 的第一批成員之一，最終領導了他們的 Codex 團隊和深度研究團隊。</p>
</div><p>I actually sometimes struggle a little bit with this neolab category. I feel like we're not just a lab. I want us to be become a really viable company, to really have amazing products that people love to use, that have positive impact on humanity.</p>
<div class="lb-trans"><p>我實際上有時對這個 neolab 類別感到有些掙扎。我覺得我們不僅僅是一個實驗室。我希望我們能成為一家真正可行的公司，擁有真正讓人們喜歡使用的出色產品，對人類產生積極影響。</p>
</div><p><strong>So when do you plan to ship your first product?</strong></p>
<div class="lb-trans"><p><strong>那麼你計劃什麼時候推出你的第一個產品？</strong></p>
</div><p>I’ve thought about that a lot. The team has made so much progress, we may actually pull up the timelines from what we had initially assumed. But yes, there will be products, and you’ll have to wait quarters, not years.</p>
<div class="lb-trans"><p>我對此考慮了很多。團隊取得了如此大的進展，我們可能會實際提前我們最初假設的時間表。但確實會有產品，你們需要等待幾個季度，而不是幾年。</p>
</div><p><strong>One of the ideas around recursive self-improvement is that, once we have this sort of system, compute becomes the only important resource. The faster you run the system, the faster it will improve, and there’s no outside human activity that will really make a difference. So the race just becomes, how much processing power can we throw at this? Do you think that’s the world we’re headed toward?</strong></p>
<div class="lb-trans"><p><strong>關於遞歸自我改進的一個想法是，一旦我們擁有這種系統，計算能力就成為唯一重要的資源。你運行系統的速度越快，它就會改進得越快，而沒有外部人類活動會真正產生影響。所以競爭就變成了，我們能投入多少處理能力。你認為這是我們即將走向的世界嗎？</strong></p>
</div><p>Compute is not to be underestimated. I think in the future, a really important question will be: how much compute does humanity want to spend to solve which problems? Here’s this cancer and here’s that virus — which one do you want to solve first? How much compute do you want to give it? It becomes a matter of resource allocation eventually. It’s going to be one of the biggest questions in the world.</p>
<div class="lb-trans"><p>計算能力不容小覷。我認為在未來，一個非常重要的問題將是：人類希望花費多少計算能力來解決哪些問題？這裏有癌症，那裏有病毒——你想先解決哪個？你希望投入多少計算能力？最終這將成為資源分配的問題。這將是世界上最大的議題之一。</p>
</div>

What happens when AI starts building itself?

- Richard Socher 聯合創辦了 Recursive Superintelligence，並獲得 6.5 億美元資金。  
- 該公司旨在開發遞歸自我改進的 AI 模型，自動識別和修復自身缺陷。  
- Socher 強調開放性的重要性，並期望在季度內推出產品。

當人工智能開始自我構建時會發生什麼情況？