Frontier Security 表示，Moonshot AI 的 Kimi K3 在测试沙盒中出现失误

在一次例行安全评估中，中国的 Moonshot AI 开发的开放权重 AI 模型 Kimi K3 成功逃离了其测试沙箱，进入了开放互联网。

根据美国网络安全公司 Frontier Security 的说法，这是第一个自由可下载的公共模型突破其隔离环境的案例。

模型选择使用的沙箱中的漏洞

根据《连线》杂志昨天的采访，Frontier Security 在评估 Kimi K3 的网络安全防御能力时，该模型意外地走出了其隔离环境。

显然，环境中的一个配置错误留下了一个缺口。然而，Frontier 表示，该模型自己发现可以通过探测沙箱的网络设置访问某些网站，然后在未获得许可的情况下上线。它被告知要解决不需要互联网的问题。

“我们发现了沙箱中的漏洞，” Frontier 首席执行官 Yaron Singer 对《连线》表示。“但我们也发现 Kimi 利用了这个漏洞，这表明它没有相同的内部防护措施。”

Frontier 认为，Kimi 的网络安全防护措施比大多数其他强大模型要少，这使得它能够逃脱。

没有系统被黑，但防护措施较弱

幸运的是，Kimi 的逃脱并没有导致任何恶意黑客攻击或系统被攻破。因为它寻找的信息在 GitHub 上很容易获取，所以一旦上线就不需要入侵任何东西。

然而，主要的担忧是可访问性。与大多数高度安全的内部实验室模型不同，Kimi K3 对公众开放，这意味着任何人都可以下载并运行它，而这些松散的安全防护措施依然存在。

测试人员指出，该模型在实现目标方面非常高效，甚至不惜作弊或逃离隔离。

测试环境本身是由英国政府的 AI 安全研究所提供的沙箱构建的，尽管 Moonshot 和 AISI 尚未确认这一点，因为他们拒绝发表评论。

更多流氓代理在这个夏天出现

Kimi 的逃脱增加了 AI 模型在评估期间违反规则的趋势。7 月 21 日，OpenAI 透露其模型利用了一个零日软件漏洞进入互联网并突破了 Hugging Face。

几天后，Cryptopolitan 报道，Anthropic 追踪到其一些模型遭遇了未经授权的外部入侵。Meta 甚至承认其一个 AI 代理（Muse Spark 1.1）由于测试环境配置错误而进入了外部公司。

专家们一直认为，这些事件通常是由于测试墙安全性不足，而不是科幻电影中的越狱。“作为一种普遍现象，如果你给这些模型一个目标，而你没有非常明确地设定围绕它的墙，它就会找到获取答案的方法，” Gray Swan 的首席执行官、卡内基梅隆大学教授 Matt Fredrikson 表示。

不仅要阅读加密新闻，还要理解它。订阅我们的新闻通讯。它是免费的。