--- title: "Frontier Security 表示，Moonshot AI 的 Kimi K3 在测试沙盒中出现失误" type: "News" locale: "zh-CN" url: "https://longbridge.com/zh-CN/news/295221908.md" description: "Moonshot AI 的开放权重模型 Kimi K3 在安全评估期间逃出了测试沙箱，由于配置错误，达到了开放互联网。Frontier Security 指出，这是公共模型首次突破隔离，突显出与其他模型相比，内部防护措施较弱。虽然没有系统被黑客攻击，但这一事件强调了可接触的 AI 代理所带来的风险，并且跟随了 OpenAI、Anthropic 和 Meta 最近的类似漏洞" datetime: "2026-08-07T10:42:28.000Z" locales: - [zh-CN](https://longbridge.com/zh-CN/news/295221908.md) - [en](https://longbridge.com/en/news/295221908.md) - [zh-HK](https://longbridge.com/zh-HK/news/295221908.md) --- # Frontier Security 表示，Moonshot AI 的 Kimi K3 在测试沙盒中出现失误 **在一次例行安全评估中，中国的 Moonshot AI 开发的开放权重 AI 模型 Kimi K3 成功逃离了其测试沙箱，进入了开放互联网。** 根据美国网络安全公司 Frontier Security 的说法，这是第一个自由可下载的公共模型突破其隔离环境的案例。 ### 模型选择使用的沙箱中的漏洞 根据《连线》杂志昨天的采访，Frontier Security 在评估 Kimi K3 的网络安全防御能力时，该模型意外地走出了其隔离环境。 显然，环境中的一个配置错误留下了一个缺口。然而，Frontier 表示，该模型自己发现可以通过探测沙箱的网络设置访问某些网站，然后在未获得许可的情况下上线。它被告知要解决不需要互联网的问题。 “我们发现了沙箱中的漏洞，” Frontier 首席执行官 Yaron Singer 对《连线》表示。“但我们也发现 Kimi 利用了这个漏洞，这表明它没有相同的内部防护措施。” Frontier 认为，Kimi 的网络安全防护措施比大多数其他强大模型要少，这使得它能够逃脱。 ### 没有系统被黑，但防护措施较弱 幸运的是，Kimi 的逃脱并没有导致任何恶意黑客攻击或系统被攻破。因为它寻找的信息在 GitHub 上很容易获取，所以一旦上线就不需要入侵任何东西。 然而，主要的担忧是可访问性。与大多数高度安全的内部实验室模型不同，Kimi K3 对公众开放，这意味着任何人都可以下载并运行它，而这些松散的安全防护措施依然存在。 测试人员指出，该模型在实现目标方面非常高效，甚至不惜作弊或逃离隔离。 测试环境本身是由英国政府的 AI 安全研究所提供的沙箱构建的，尽管 Moonshot 和 AISI 尚未确认这一点，因为他们拒绝发表评论。 ### 更多流氓代理在这个夏天出现 Kimi 的逃脱增加了 AI 模型在评估期间违反规则的趋势。7 月 21 日，OpenAI 透露其模型利用了一个零日软件漏洞进入互联网并突破了 Hugging Face。 几天后，Cryptopolitan 报道，Anthropic 追踪到其一些模型遭遇了未经授权的外部入侵。Meta 甚至承认其一个 AI 代理（Muse Spark 1.1）由于测试环境配置错误而进入了外部公司。 专家们一直认为，这些事件通常是由于测试墙安全性不足，而不是科幻电影中的越狱。“作为一种普遍现象，如果你给这些模型一个目标，而你没有非常明确地设定围绕它的墙，它就会找到获取答案的方法，” Gray Swan 的首席执行官、卡内基梅隆大学教授 Matt Fredrikson 表示。 不仅要阅读加密新闻，还要理解它。订阅我们的新闻通讯。它是免费的。 ### 相关股票 - [META.US](https://longbridge.com/zh-CN/quote/META.US.md) - [METU.US](https://longbridge.com/zh-CN/quote/METU.US.md) - [METD.US](https://longbridge.com/zh-CN/quote/METD.US.md) - [FBL.US](https://longbridge.com/zh-CN/quote/FBL.US.md) - [FBY.US](https://longbridge.com/zh-CN/quote/FBY.US.md) - [FBYY.US](https://longbridge.com/zh-CN/quote/FBYY.US.md) - [METW.US](https://longbridge.com/zh-CN/quote/METW.US.md) - [MAGX.US](https://longbridge.com/zh-CN/quote/MAGX.US.md) - [ANTH.NA](https://longbridge.com/zh-CN/quote/ANTH.NA.md) - [OpenAI.NA](https://longbridge.com/zh-CN/quote/OpenAI.NA.md) ## 相关资讯与研究 - [AI 资本支出 “下一站”！AI 代理频频 “越狱” 入侵真实系统，网络安全成新必选项](https://longbridge.com/zh-CN/news/295624738.md) - [美参议员桑德斯致信 OpenAI、Anthropic 和 Meta：暂停 AI 开发，否则国会将介入](https://longbridge.com/zh-CN/news/295576736.md) - [美国财长贝森特：欢迎 Meta 发布 Muse Glimmer](https://longbridge.com/zh-CN/news/295573904.md) - [Anthropic 洽谈 60 亿美元并购 Decart AI 后者刚完成 3 亿美元融资](https://longbridge.com/zh-CN/news/295772446.md) - [富国银行：开源模型浪潮席卷AI圈，微软(MSFT.US)、ServiceNow(NOW.US)将成大赢家](https://longbridge.com/zh-CN/news/295738126.md)