--- title: "当人工智能开始自我构建时会发生什么情况？" type: "News" locale: "zh-CN" url: "https://longbridge.com/zh-CN/news/286458692.md" description: "理查德·索彻（Richard Socher）创办了位于旧金山的人工智能初创公司 Recursive Superintelligence，获得了 6.5 亿美元的融资。该公司旨在开发一种递归自我改进的人工智能模型，能够自主识别和修复自身的弱点。索彻强调了一种独特的方法，通过开放性来实现这一目标，与传统的人工智能改进方法形成对比。该初创公司的团队包括一些知名的人工智能研究人员，他们专注于自动化研究创意的构思、实施和验证，最终力求通过人工智能系统的共同进化实现新的人工智能自我意识和安全水平" datetime: "2026-05-14T19:59:18.000Z" locales: - [zh-CN](https://longbridge.com/zh-CN/news/286458692.md) - [en](https://longbridge.com/en/news/286458692.md) - [zh-HK](https://longbridge.com/zh-HK/news/286458692.md) --- # 当人工智能开始自我构建时会发生什么情况？ 理查德·索彻在人工智能领域已经是一个重要人物，以创办早期聊天机器人初创公司 You.com 而闻名，之前还参与了 Imagenet 的工作。现在，他加入了以研究为重点的人工智能初创公司 Recursive Superintelligence，这是一家总部位于旧金山的初创公司，周三刚刚宣布获得 6.5 亿美元的融资。 索彻在这个新项目中与一群杰出的人工智能研究人员合作，包括彼得·诺维格和 Cresta 的联合创始人 Tim Shi。他们共同致力于创建一个递归自我改进的人工智能模型，这种模型能够自主识别自身的弱点并重新设计自己以修复这些弱点，而无需人类参与——这是当代人工智能研究长期以来追求的圣杯。 我在发布后通过 Zoom 与他进行了交谈，深入探讨了 Recursive 的独特技术方法，以及他为什么不认为这个新项目是一个 neolab，即一个优先考虑研究而非产品开发的新一代人工智能初创公司。 这次采访经过编辑以缩短长度和提高清晰度。 **我们现在听到很多关于递归的讨论！这似乎是不同实验室的一个共同目标。你认为你们的独特方法是什么？** 我们独特的方法是利用开放性来实现递归自我改进，这是目前还没有人实现的目标。这对很多人来说是一个难以捉摸的目标。很多人已经假设，当你进行自动研究时，它就会发生。你知道，你可以让人工智能去改进其他东西，这可能是一个机器学习系统，或者你写的一封信，或者其他任何东西，对吧？但那并不是递归自我改进。那只是改进。 我们的主要关注点是构建真正的递归自我改进的超级智能，规模化意味着整个研究思想的构思、实施和验证过程都是自动化的。 首先 \[它将自动化\] 人工智能研究思想，最终任何类型的研究思想，甚至最终在物理领域。但当人工智能在自我工作时，它特别强大，并且正在发展一种新的自我意识，意识到自身的不足。 **你使用了开放性这个术语——它有特定的技术含义吗？** 确实有。实际上，我们的联合创始人 Tim Rocktäschel 曾在谷歌 DeepMind 领导开放性和自我改进团队，特别是参与了世界模型 Genie 3 的工作，这是开放性的一个很好的例子。你可以告诉它任何概念、任何世界、任何代理，它都会创建出来，并且是互动的。 在生物进化中，动物适应环境，然后其他动物对这些适应进行反适应。这是一个可以进化数十亿年的过程，持续发生有趣的事情，对吧？这就是我们在 \[头部\] 发展出眼睛的方式。 另一个例子是来自 Tim 的另一篇论文中的彩虹团队。你听说过红队吗？ **在网络安全中，它意味着**—— 所以，红队也必须在 LLM 的上下文中进行。基本上，你试图让 LLM 告诉你如何制造炸弹，而你希望确保它不会这样做。 现在，人类可以坐在那里很长时间，想出人工智能不应该说的有趣例子。但如果你用第二个人工智能测试第一个人工智能，而第二个人工智能的任务是让第一个人工智能 \[尝试\] 说出所有可能的坏话。然后它们可以进行数百万次迭代的交互。 你实际上可以让两个人工智能共同进化。一个不断攻击另一个，然后不仅提出一个角度，而是许多不同的角度，因此有了彩虹的比喻。然后你可以给第一个人工智能接种疫苗，从而变得越来越安全。这是 Tim Rocktaeschel 的一个想法，现在在所有主要实验室中都在使用。 **你怎么知道什么时候完成？我想这永远不会完成。** 这些事情中的一些永远不会完成。你总是可以变得更聪明。你总是可以在编程和数学等方面变得更好。智力是有一些界限的；我实际上正在尝试正式化这些界限，但它们是天文数字。我们距离这些极限还很远。 **作为一个 neolab，感觉你应该在做一些主要实验室没有做的事情。所以这里的部分含义是，你认为主要实验室不会通过他们正在做的事情达到 RSI\[递归自我改进\]。这样说公平吗？** 我不能真正评论他们在做什么，但我确实认为我们在以不同的方式接近这个问题。我们真正拥抱开放性的概念，我们的团队完全专注于这个愿景。团队在过去十年中一直在这个领域进行研究并发表论文。团队在推动该领域向前发展并推出真正产品方面有着良好的记录。你知道，Tim Shi 将 Cresta 打造成为独角兽。Josh Tobin 是 OpenAI 的第一批成员之一，最终领导了他们的 Codex 团队和深度研究团队。 我实际上有时对这个 neolab 类别感到有些挣扎。我觉得我们不仅仅是一个实验室。我希望我们能成为一家真正可行的公司，拥有真正让人们喜欢使用的出色产品，对人类产生积极影响。 **那么你计划什么时候推出你的第一个产品？** 我对此考虑了很多。团队取得了如此大的进展，我们可能会实际提前我们最初假设的时间表。但确实会有产品，你们需要等待几个季度，而不是几年。 **关于递归自我改进的一个想法是，一旦我们拥有这种系统，计算能力就成为唯一重要的资源。你运行系统的速度越快，它就会改进得越快，而没有外部人类活动会真正产生影响。所以竞争就变成了，我们能投入多少处理能力。你认为这是我们即将走向的世界吗？** 计算能力不容小觑。我认为在未来，一个非常重要的问题将是：人类希望花费多少计算能力来解决哪些问题？这里有癌症，那里有病毒——你想先解决哪个？你希望投入多少计算能力？最终这将成为资源分配的问题。这将是世界上最大的议题之一。 ### 相关股票 - [GOOG.US](https://longbridge.com/zh-CN/quote/GOOG.US.md) - [AMD.US](https://longbridge.com/zh-CN/quote/AMD.US.md) - [GOOGL.US](https://longbridge.com/zh-CN/quote/GOOGL.US.md) - [NVDL.US](https://longbridge.com/zh-CN/quote/NVDL.US.md) - [XLK.US](https://longbridge.com/zh-CN/quote/XLK.US.md) - [NVDY.US](https://longbridge.com/zh-CN/quote/NVDY.US.md) - [VGT.US](https://longbridge.com/zh-CN/quote/VGT.US.md) - [XSW.US](https://longbridge.com/zh-CN/quote/XSW.US.md) - [AMUU.US](https://longbridge.com/zh-CN/quote/AMUU.US.md) - [AMDL.US](https://longbridge.com/zh-CN/quote/AMDL.US.md) - [CLOU.US](https://longbridge.com/zh-CN/quote/CLOU.US.md) - [IGPT.US](https://longbridge.com/zh-CN/quote/IGPT.US.md) - [SNSR.US](https://longbridge.com/zh-CN/quote/SNSR.US.md) - [NVDU.US](https://longbridge.com/zh-CN/quote/NVDU.US.md) - [GGLL.US](https://longbridge.com/zh-CN/quote/GGLL.US.md) - [IGV.US](https://longbridge.com/zh-CN/quote/IGV.US.md) - [IXN.US](https://longbridge.com/zh-CN/quote/IXN.US.md) - [GOOW.US](https://longbridge.com/zh-CN/quote/GOOW.US.md) - [NVDX.US](https://longbridge.com/zh-CN/quote/NVDX.US.md) - [RSPT.US](https://longbridge.com/zh-CN/quote/RSPT.US.md) ## 相关资讯与研究 - [谷歌升级搜索体验迎接 AI 时代 并推出新编程工具](https://longbridge.com/zh-CN/news/286958438.md) - [人工智能经济重塑美国梦，蓝领工人迎来发展良机](https://longbridge.com/zh-CN/news/286916827.md) - [用户规模突破 30 亿！谷歌加速 AI 生态整合 搜索引擎迎 25 年来最大改版](https://longbridge.com/zh-CN/news/287088962.md) - [英伟达在新加坡设亚太第二个研发基地 专注具身人工智能与 AI 模型优化 | 联合早报网](https://longbridge.com/zh-CN/news/286988131.md) - [高盛：百度集团-SWAI 云业务持续强劲 料 AI 业务年底占比过半](https://longbridge.com/zh-CN/news/287163446.md)