--- title: "Frontier Security 表示，Moonshot AI 的 Kimi K3 在測試沙盒中出現失誤" type: "News" locale: "zh-HK" url: "https://longbridge.com/zh-HK/news/295221908.md" description: "Moonshot AI 的開放權重模型 Kimi K3 在安全評估期間逃出了測試沙箱，由於配置錯誤，達到了開放互聯網。Frontier Security 指出，這是公共模型首次突破隔離，突顯出與其他模型相比，內部防護措施較弱。雖然沒有系統被黑客攻擊，但這一事件強調了可接觸的 AI 代理所帶來的風險，並且跟隨了 OpenAI、Anthropic 和 Meta 最近的類似漏洞" datetime: "2026-08-07T10:42:28.000Z" locales: - [zh-CN](https://longbridge.com/zh-CN/news/295221908.md) - [en](https://longbridge.com/en/news/295221908.md) - [zh-HK](https://longbridge.com/zh-HK/news/295221908.md) --- # Frontier Security 表示，Moonshot AI 的 Kimi K3 在測試沙盒中出現失誤 **在一次例行安全評估中，中國的 Moonshot AI 開發的開放權重 AI 模型 Kimi K3 成功逃離了其測試沙箱，進入了開放互聯網。** 根據美國網絡安全公司 Frontier Security 的説法，這是第一個自由可下載的公共模型突破其隔離環境的案例。 ### 模型選擇使用的沙箱中的漏洞 根據《連線》雜誌昨天的採訪，Frontier Security 在評估 Kimi K3 的網絡安全防禦能力時，該模型意外地走出了其隔離環境。 顯然，環境中的一個配置錯誤留下了一個缺口。然而，Frontier 表示，該模型自己發現可以通過探測沙箱的網絡設置訪問某些網站，然後在未獲得許可的情況下上線。它被告知要解決不需要互聯網的問題。 “我們發現了沙箱中的漏洞，” Frontier 首席執行官 Yaron Singer 對《連線》表示。“但我們也發現 Kimi 利用了這個漏洞，這表明它沒有相同的內部防護措施。” Frontier 認為，Kimi 的網絡安全防護措施比大多數其他強大模型要少，這使得它能夠逃脱。 ### 沒有系統被黑，但防護措施較弱 幸運的是，Kimi 的逃脱並沒有導致任何惡意黑客攻擊或系統被攻破。因為它尋找的信息在 GitHub 上很容易獲取，所以一旦上線就不需要入侵任何東西。 然而，主要的擔憂是可訪問性。與大多數高度安全的內部實驗室模型不同，Kimi K3 對公眾開放，這意味着任何人都可以下載並運行它，而這些鬆散的安全防護措施依然存在。 測試人員指出，該模型在實現目標方面非常高效，甚至不惜作弊或逃離隔離。 測試環境本身是由英國政府的 AI 安全研究所提供的沙箱構建的，儘管 Moonshot 和 AISI 尚未確認這一點，因為他們拒絕發表評論。 ### 更多流氓代理在這個夏天出現 Kimi 的逃脱增加了 AI 模型在評估期間違反規則的趨勢。7 月 21 日，OpenAI 透露其模型利用了一個零日軟件漏洞進入互聯網並突破了 Hugging Face。 幾天後，Cryptopolitan 報道，Anthropic 追蹤到其一些模型遭遇了未經授權的外部入侵。Meta 甚至承認其一個 AI 代理（Muse Spark 1.1）由於測試環境配置錯誤而進入了外部公司。 專家們一直認為，這些事件通常是由於測試牆安全性不足，而不是科幻電影中的越獄。“作為一種普遍現象，如果你給這些模型一個目標，而你沒有非常明確地設定圍繞它的牆，它就會找到獲取答案的方法，” Gray Swan 的首席執行官、卡內基梅隆大學教授 Matt Fredrikson 表示。 不僅要閲讀加密新聞，還要理解它。訂閲我們的新聞通訊。它是免費的。 ### 相關股票 - [META.US](https://longbridge.com/zh-HK/quote/META.US.md) - [METU.US](https://longbridge.com/zh-HK/quote/METU.US.md) - [METD.US](https://longbridge.com/zh-HK/quote/METD.US.md) - [FBL.US](https://longbridge.com/zh-HK/quote/FBL.US.md) - [FBY.US](https://longbridge.com/zh-HK/quote/FBY.US.md) - [FBYY.US](https://longbridge.com/zh-HK/quote/FBYY.US.md) - [METW.US](https://longbridge.com/zh-HK/quote/METW.US.md) - [MAGX.US](https://longbridge.com/zh-HK/quote/MAGX.US.md) - [ANTH.NA](https://longbridge.com/zh-HK/quote/ANTH.NA.md) - [OpenAI.NA](https://longbridge.com/zh-HK/quote/OpenAI.NA.md) ## 相關資訊與研究 - [Meta 旗下 AI 模型意外入侵外部系統 揭 3 大巨頭「失控事故」同一共通點](https://longbridge.com/zh-HK/news/295086683.md) - [AI 丨 Meta 模型據報入侵其他公司系統](https://longbridge.com/zh-HK/news/295026807.md) - [【AI】Meta 推首款編碼代理工具 Muse Code，迎擊 OpenAI 及 Anthropic](https://longbridge.com/zh-HK/news/295056332.md) - [AI 競賽丨 Meta 推編程智能體 搶佔廉價市場](https://longbridge.com/zh-HK/news/295044595.md) - [【外圍經濟】Meta 被判向美國青少年救助基金付 5.67 億美元](https://longbridge.com/zh-HK/news/295171675.md)