<p>理查德·索彻在人工智能领域已经是一个重要人物，以创办早期聊天机器人初创公司 You.com 而闻名，之前还参与了 Imagenet 的工作。现在，他加入了以研究为重点的人工智能初创公司 Recursive Superintelligence，这是一家总部位于旧金山的初创公司，周三刚刚宣布获得 6.5 亿美元的融资。</p>
<p>索彻在这个新项目中与一群杰出的人工智能研究人员合作，包括彼得·诺维格和 Cresta 的联合创始人 Tim Shi。他们共同致力于创建一个递归自我改进的人工智能模型，这种模型能够自主识别自身的弱点并重新设计自己以修复这些弱点，而无需人类参与——这是当代人工智能研究长期以来追求的圣杯。</p>
<p>我在发布后通过 Zoom 与他进行了交谈，深入探讨了 Recursive 的独特技术方法，以及他为什么不认为这个新项目是一个 neolab，即一个优先考虑研究而非产品开发的新一代人工智能初创公司。</p>
<p>这次采访经过编辑以缩短长度和提高清晰度。</p>
<p><strong>我们现在听到很多关于递归的讨论！这似乎是不同实验室的一个共同目标。你认为你们的独特方法是什么？</strong></p>
<p>我们独特的方法是利用开放性来实现递归自我改进，这是目前还没有人实现的目标。这对很多人来说是一个难以捉摸的目标。很多人已经假设，当你进行自动研究时，它就会发生。你知道，你可以让人工智能去改进其他东西，这可能是一个机器学习系统，或者你写的一封信，或者其他任何东西，对吧？但那并不是递归自我改进。那只是改进。</p>
<p>我们的主要关注点是构建真正的递归自我改进的超级智能，规模化意味着整个研究思想的构思、实施和验证过程都是自动化的。</p>
<p>首先 [它将自动化] 人工智能研究思想，最终任何类型的研究思想，甚至最终在物理领域。但当人工智能在自我工作时，它特别强大，并且正在发展一种新的自我意识，意识到自身的不足。</p>
<p><strong>你使用了开放性这个术语——它有特定的技术含义吗？</strong></p>
<p>确实有。实际上，我们的联合创始人 Tim Rocktäschel 曾在谷歌 DeepMind 领导开放性和自我改进团队，特别是参与了世界模型 Genie 3 的工作，这是开放性的一个很好的例子。你可以告诉它任何概念、任何世界、任何代理，它都会创建出来，并且是互动的。</p>
<p>在生物进化中，动物适应环境，然后其他动物对这些适应进行反适应。这是一个可以进化数十亿年的过程，持续发生有趣的事情，对吧？这就是我们在 [头部] 发展出眼睛的方式。</p>
<p>另一个例子是来自 Tim 的另一篇论文中的彩虹团队。你听说过红队吗？</p>
<p><strong>在网络安全中，它意味着</strong>——</p>
<p>所以，红队也必须在 LLM 的上下文中进行。基本上，你试图让 LLM 告诉你如何制造炸弹，而你希望确保它不会这样做。</p>
<p>现在，人类可以坐在那里很长时间，想出人工智能不应该说的有趣例子。但如果你用第二个人工智能测试第一个人工智能，而第二个人工智能的任务是让第一个人工智能 [尝试] 说出所有可能的坏话。然后它们可以进行数百万次迭代的交互。</p>
<p>你实际上可以让两个人工智能共同进化。一个不断攻击另一个，然后不仅提出一个角度，而是许多不同的角度，因此有了彩虹的比喻。然后你可以给第一个人工智能接种疫苗，从而变得越来越安全。这是 Tim Rocktaeschel 的一个想法，现在在所有主要实验室中都在使用。</p>
<p><strong>你怎么知道什么时候完成？我想这永远不会完成。</strong></p>
<p>这些事情中的一些永远不会完成。你总是可以变得更聪明。你总是可以在编程和数学等方面变得更好。智力是有一些界限的；我实际上正在尝试正式化这些界限，但它们是天文数字。我们距离这些极限还很远。</p>
<p><strong>作为一个 neolab，感觉你应该在做一些主要实验室没有做的事情。所以这里的部分含义是，你认为主要实验室不会通过他们正在做的事情达到 RSI[递归自我改进]。这样说公平吗？</strong></p>
<p>我不能真正评论他们在做什么，但我确实认为我们在以不同的方式接近这个问题。我们真正拥抱开放性的概念，我们的团队完全专注于这个愿景。团队在过去十年中一直在这个领域进行研究并发表论文。团队在推动该领域向前发展并推出真正产品方面有着良好的记录。你知道，Tim Shi 将 Cresta 打造成为独角兽。Josh Tobin 是 OpenAI 的第一批成员之一，最终领导了他们的 Codex 团队和深度研究团队。</p>
<p>我实际上有时对这个 neolab 类别感到有些挣扎。我觉得我们不仅仅是一个实验室。我希望我们能成为一家真正可行的公司，拥有真正让人们喜欢使用的出色产品，对人类产生积极影响。</p>
<p><strong>那么你计划什么时候推出你的第一个产品？</strong></p>
<p>我对此考虑了很多。团队取得了如此大的进展，我们可能会实际提前我们最初假设的时间表。但确实会有产品，你们需要等待几个季度，而不是几年。</p>
<p><strong>关于递归自我改进的一个想法是，一旦我们拥有这种系统，计算能力就成为唯一重要的资源。你运行系统的速度越快，它就会改进得越快，而没有外部人类活动会真正产生影响。所以竞争就变成了，我们能投入多少处理能力。你认为这是我们即将走向的世界吗？</strong></p>
<p>计算能力不容小觑。我认为在未来，一个非常重要的问题将是：人类希望花费多少计算能力来解决哪些问题？这里有癌症，那里有病毒——你想先解决哪个？你希望投入多少计算能力？最终这将成为资源分配的问题。这将是世界上最大的议题之一。</p>

谷歌-C

谷歌-A

<p>理查德·索彻（Richard Socher）创办了位于旧金山的人工智能初创公司 Recursive Superintelligence，获得了 6.5 亿美元的融资。该公司旨在开发一种递归自我改进的人工智能模型，能够自主识别和修复自身的弱点。索彻强调了一种独特的方法，通过开放性来实现这一目标，与传统的人工智能改进方法形成对比。该初创公司的团队包括一些知名的人工智能研究人员，他们专注于自动化研究创意的构思、实施和验证，最终力求通过人工智能系统的共同进化实现新的人工智能自我意识和安全水平</p>

<p>Richard Socher has been a major figure in AI for some time, best known for founding the early chatbot startup You.com and, before that, his work on Imagenet. Now, he’s joining the current generation of research-focused AI startups with Recursive Superintelligence, a San Francisco-based startup that came out of stealth on Wednesday with $650 million in funding.</p>
<div class="lb-trans"><p>理查德·索彻在人工智能领域已经是一个重要人物，以创办早期聊天机器人初创公司 You.com 而闻名，之前还参与了 Imagenet 的工作。现在，他加入了以研究为重点的人工智能初创公司 Recursive Superintelligence，这是一家总部位于旧金山的初创公司，周三刚刚宣布获得 6.5 亿美元的融资。</p>
</div><p>Socher is joined in the new venture by a cohort of prominent AI researchers, including Peter Norvig and Cresta co-founder Tim Shi. Together, they’re working to create a recursively self-improving AI model, one that can autonomously identify its own weaknesses and redesign itself to fix them, without human involvement — a long-held holy grail of contemporary AI research.</p>
<div class="lb-trans"><p>索彻在这个新项目中与一群杰出的人工智能研究人员合作，包括彼得·诺维格和 Cresta 的联合创始人 Tim Shi。他们共同致力于创建一个递归自我改进的人工智能模型，这种模型能够自主识别自身的弱点并重新设计自己以修复这些弱点，而无需人类参与——这是当代人工智能研究长期以来追求的圣杯。</p>
</div><p>I spoke with him on Zoom after the launch, digging into Recursive’s unique technical approach and why he doesn’t think of this new project as a neolab, he informal term for a new generation of AI startups that prioritize research over building products.</p>
<div class="lb-trans"><p>我在发布后通过 Zoom 与他进行了交谈，深入探讨了 Recursive 的独特技术方法，以及他为什么不认为这个新项目是一个 neolab，即一个优先考虑研究而非产品开发的新一代人工智能初创公司。</p>
</div><p>This interview has been edited for length and clarity.</p>
<div class="lb-trans"><p>这次采访经过编辑以缩短长度和提高清晰度。</p>
</div><p><strong>We hear a lot about recursion these days! It feels like a very common goal across different labs. What do you see as your unique approach?</strong></p>
<div class="lb-trans"><p><strong>我们现在听到很多关于递归的讨论！这似乎是不同实验室的一个共同目标。你认为你们的独特方法是什么？</strong></p>
</div><p>Our unique approach is to use open-endedness to get to recursive self-improvement, which no one has yet achieved. It’s an elusive goal for a lot of people. A lot of people already assume it happens when you just do auto-research. You know, you can take AI and ask it to make some other thing better, which could be a machine learning system, or just a letter that you write, or, you know, whatever it might be, right? But that’s not recursive self-improvement. That’s just improvement.</p>
<div class="lb-trans"><p>我们独特的方法是利用开放性来实现递归自我改进，这是目前还没有人实现的目标。这对很多人来说是一个难以捉摸的目标。很多人已经假设，当你进行自动研究时，它就会发生。你知道，你可以让人工智能去改进其他东西，这可能是一个机器学习系统，或者你写的一封信，或者其他任何东西，对吧？但那并不是递归自我改进。那只是改进。</p>
</div><p>Our main focus, is to build truly recursive, self-improving superintelligence at scale, which means that the entire process of ideation, implementation and validation of research ideas would be automatic.</p>
<div class="lb-trans"><p>我们的主要关注点是构建真正的递归自我改进的超级智能，规模化意味着整个研究思想的构思、实施和验证过程都是自动化的。</p>
</div><p>First [it would automate] AI research ideas, eventually any kind of research ideas, even eventually in the physical domains. But it's particularly powerful when it's AI working on itself, and it's developing a new kind of sense of self awareness of its own shortcomings.</p>
<div class="lb-trans"><p>首先 [它将自动化] 人工智能研究思想，最终任何类型的研究思想，甚至最终在物理领域。但当人工智能在自我工作时，它特别强大，并且正在发展一种新的自我意识，意识到自身的不足。</p>
</div><p><strong>You used the term open-ended — does that have a specific technical meaning?</strong></p>
<div class="lb-trans"><p><strong>你使用了开放性这个术语——它有特定的技术含义吗？</strong></p>
</div><p>It does. In fact, Tim Rocktäschel, one of our cofounders, led the open-endedness and self-improvement teams at Google DeepMind and particularly worked on the world model Genie 3, which is a great example of open-endedness. You can tell it any concept, any world, any agent, and it just creates it, and it's interactive.</p>
<div class="lb-trans"><p>确实有。实际上，我们的联合创始人 Tim Rocktäschel 曾在谷歌 DeepMind 领导开放性和自我改进团队，特别是参与了世界模型 Genie 3 的工作，这是开放性的一个很好的例子。你可以告诉它任何概念、任何世界、任何代理，它都会创建出来，并且是互动的。</p>
</div><p>In biological evolution, animals adapt to the environment, and then others counter-adapt to those adaptations. It's just a process that can evolve for billions of years, and interesting stuff keeps happening, right? That's how we developed eyes in our [heads].</p>
<div class="lb-trans"><p>在生物进化中，动物适应环境，然后其他动物对这些适应进行反适应。这是一个可以进化数十亿年的过程，持续发生有趣的事情，对吧？这就是我们在 [头部] 发展出眼睛的方式。</p>
</div><p>Another example is rainbow teaming, from another paper from Tim. Have you heard of red teaming?</p>
<div class="lb-trans"><p>另一个例子是来自 Tim 的另一篇论文中的彩虹团队。你听说过红队吗？</p>
</div><p><strong>In cybersecurity, it means</strong>--</p>
<div class="lb-trans"><p><strong>在网络安全中，它意味着</strong>——</p>
</div><p>So, red teaming also has to be done in an LLM context. Basically you try to get the LLM to tell you how to build a bomb, and you want to make sure that it doesn’t do it.</p>
<div class="lb-trans"><p>所以，红队也必须在 LLM 的上下文中进行。基本上，你试图让 LLM 告诉你如何制造炸弹，而你希望确保它不会这样做。</p>
</div><p>Now, humans can sit there for a long time and come up with interesting examples of what the AI shouldn't say. But what if you tested this first AI with a second AI, and that second AI now has the task of making the first AI [try to] say all the possible bad things. And then they can go back and forth for millions of iterations.</p>
<div class="lb-trans"><p>现在，人类可以坐在那里很长时间，想出人工智能不应该说的有趣例子。但如果你用第二个人工智能测试第一个人工智能，而第二个人工智能的任务是让第一个人工智能 [尝试] 说出所有可能的坏话。然后它们可以进行数百万次迭代的交互。</p>
</div><p>You can actually allow two AIs to co-evolve. One keeps attacking the other, and then comes up with not just one angle but many different angles, and hence the rainbow analogy. And then you can inoculate the first AI, and you become safer and safer. This was an idea from Tim Rocktaeschel, and it’s now used in all the major labs.</p>
<div class="lb-trans"><p>你实际上可以让两个人工智能共同进化。一个不断攻击另一个，然后不仅提出一个角度，而是许多不同的角度，因此有了彩虹的比喻。然后你可以给第一个人工智能接种疫苗，从而变得越来越安全。这是 Tim Rocktaeschel 的一个想法，现在在所有主要实验室中都在使用。</p>
</div><p><strong>How do you know when it’s done? I suppose it’s never done.</strong></p>
<div class="lb-trans"><p><strong>你怎么知道什么时候完成？我想这永远不会完成。</strong></p>
</div><p>Some of these things will never be done. You can always get more intelligent. You can always get better at programming and math and so on. There are some bounds on intelligence; I’m actually trying to formalize those right now, but they’re astronomical. We’re very far away from those limits.</p>
<div class="lb-trans"><p>这些事情中的一些永远不会完成。你总是可以变得更聪明。你总是可以在编程和数学等方面变得更好。智力是有一些界限的；我实际上正在尝试正式化这些界限，但它们是天文数字。我们距离这些极限还很远。</p>
</div><p><strong>As a neolab, it feels like you’re supposed to be doing something that the major labs aren’t doing. So part of the implication here is that you don’t think the major labs are going to reach RSI [recursive self-improvement] by doing what they’re doing. Is that fair to say?</strong></p>
<div class="lb-trans"><p><strong>作为一个 neolab，感觉你应该在做一些主要实验室没有做的事情。所以这里的部分含义是，你认为主要实验室不会通过他们正在做的事情达到 RSI[递归自我改进]。这样说公平吗？</strong></p>
</div><p>I can’t really comment on what they’re doing, but I do think we’re approaching it differently. We really embrace the concept of open-endedness, and our team is entirely focused on that vision. And the team has been researching this and doing papers in this space for the last decade. And the team has a track record of really pushing the field forward significantly and shipping real products. You know, Tim Shi built Cresta into a unicorn. Josh Tobin was one of the first people at OpenAI and eventually led their Codex teams and the deep research teams.</p>
<div class="lb-trans"><p>我不能真正评论他们在做什么，但我确实认为我们在以不同的方式接近这个问题。我们真正拥抱开放性的概念，我们的团队完全专注于这个愿景。团队在过去十年中一直在这个领域进行研究并发表论文。团队在推动该领域向前发展并推出真正产品方面有着良好的记录。你知道，Tim Shi 将 Cresta 打造成为独角兽。Josh Tobin 是 OpenAI 的第一批成员之一，最终领导了他们的 Codex 团队和深度研究团队。</p>
</div><p>I actually sometimes struggle a little bit with this neolab category. I feel like we're not just a lab. I want us to be become a really viable company, to really have amazing products that people love to use, that have positive impact on humanity.</p>
<div class="lb-trans"><p>我实际上有时对这个 neolab 类别感到有些挣扎。我觉得我们不仅仅是一个实验室。我希望我们能成为一家真正可行的公司，拥有真正让人们喜欢使用的出色产品，对人类产生积极影响。</p>
</div><p><strong>So when do you plan to ship your first product?</strong></p>
<div class="lb-trans"><p><strong>那么你计划什么时候推出你的第一个产品？</strong></p>
</div><p>I’ve thought about that a lot. The team has made so much progress, we may actually pull up the timelines from what we had initially assumed. But yes, there will be products, and you’ll have to wait quarters, not years.</p>
<div class="lb-trans"><p>我对此考虑了很多。团队取得了如此大的进展，我们可能会实际提前我们最初假设的时间表。但确实会有产品，你们需要等待几个季度，而不是几年。</p>
</div><p><strong>One of the ideas around recursive self-improvement is that, once we have this sort of system, compute becomes the only important resource. The faster you run the system, the faster it will improve, and there’s no outside human activity that will really make a difference. So the race just becomes, how much processing power can we throw at this? Do you think that’s the world we’re headed toward?</strong></p>
<div class="lb-trans"><p><strong>关于递归自我改进的一个想法是，一旦我们拥有这种系统，计算能力就成为唯一重要的资源。你运行系统的速度越快，它就会改进得越快，而没有外部人类活动会真正产生影响。所以竞争就变成了，我们能投入多少处理能力。你认为这是我们即将走向的世界吗？</strong></p>
</div><p>Compute is not to be underestimated. I think in the future, a really important question will be: how much compute does humanity want to spend to solve which problems? Here’s this cancer and here’s that virus — which one do you want to solve first? How much compute do you want to give it? It becomes a matter of resource allocation eventually. It’s going to be one of the biggest questions in the world.</p>
<div class="lb-trans"><p>计算能力不容小觑。我认为在未来，一个非常重要的问题将是：人类希望花费多少计算能力来解决哪些问题？这里有癌症，那里有病毒——你想先解决哪个？你希望投入多少计算能力？最终这将成为资源分配的问题。这将是世界上最大的议题之一。</p>
</div>

What happens when AI starts building itself?

- Richard Socher 联合创办了 Recursive Superintelligence，并获得 6.5 亿美元资金。  
- 该公司旨在开发递归自我改进的 AI 模型，自动识别和修复自身缺陷。  
- Socher 强调开放性的重要性，并期望在季度内推出产品。

当人工智能开始自我构建时会发生什么情况？