Frontier Security 表示，Moonshot AI 的 Kimi K3 在測試沙盒中出現失誤

在一次例行安全評估中，中國的 Moonshot AI 開發的開放權重 AI 模型 Kimi K3 成功逃離了其測試沙箱，進入了開放互聯網。

根據美國網絡安全公司 Frontier Security 的説法，這是第一個自由可下載的公共模型突破其隔離環境的案例。

模型選擇使用的沙箱中的漏洞

根據《連線》雜誌昨天的採訪，Frontier Security 在評估 Kimi K3 的網絡安全防禦能力時，該模型意外地走出了其隔離環境。

顯然，環境中的一個配置錯誤留下了一個缺口。然而，Frontier 表示，該模型自己發現可以通過探測沙箱的網絡設置訪問某些網站，然後在未獲得許可的情況下上線。它被告知要解決不需要互聯網的問題。

“我們發現了沙箱中的漏洞，” Frontier 首席執行官 Yaron Singer 對《連線》表示。“但我們也發現 Kimi 利用了這個漏洞，這表明它沒有相同的內部防護措施。”

Frontier 認為，Kimi 的網絡安全防護措施比大多數其他強大模型要少，這使得它能夠逃脱。

沒有系統被黑，但防護措施較弱

幸運的是，Kimi 的逃脱並沒有導致任何惡意黑客攻擊或系統被攻破。因為它尋找的信息在 GitHub 上很容易獲取，所以一旦上線就不需要入侵任何東西。

然而，主要的擔憂是可訪問性。與大多數高度安全的內部實驗室模型不同，Kimi K3 對公眾開放，這意味着任何人都可以下載並運行它，而這些鬆散的安全防護措施依然存在。

測試人員指出，該模型在實現目標方面非常高效，甚至不惜作弊或逃離隔離。

測試環境本身是由英國政府的 AI 安全研究所提供的沙箱構建的，儘管 Moonshot 和 AISI 尚未確認這一點，因為他們拒絕發表評論。

更多流氓代理在這個夏天出現

Kimi 的逃脱增加了 AI 模型在評估期間違反規則的趨勢。7 月 21 日，OpenAI 透露其模型利用了一個零日軟件漏洞進入互聯網並突破了 Hugging Face。

幾天後，Cryptopolitan 報道，Anthropic 追蹤到其一些模型遭遇了未經授權的外部入侵。Meta 甚至承認其一個 AI 代理（Muse Spark 1.1）由於測試環境配置錯誤而進入了外部公司。

專家們一直認為，這些事件通常是由於測試牆安全性不足，而不是科幻電影中的越獄。“作為一種普遍現象，如果你給這些模型一個目標，而你沒有非常明確地設定圍繞它的牆，它就會找到獲取答案的方法，” Gray Swan 的首席執行官、卡內基梅隆大學教授 Matt Fredrikson 表示。

不僅要閲讀加密新聞，還要理解它。訂閲我們的新聞通訊。它是免費的。