人工智能安全辯論究竟是關於安全還是關於控制？

科技行業應該如何看待人工智能安全問題？越來越多的高層管理人員開始對此進行探討，因為關於 Hugging Face 事件的爭論愈演愈烈——在該事件中，一名 OpenAI 代理人黑入了多家公司——這是否表明人工智能即將使我們的世界陷入混亂。

在最近幾周，知名實驗室呼籲放緩人工智能的發展。最引人注目的是，首席執行官達里奧·阿莫代（Dario Amodei）撰寫了一篇近 4000 字的文章，闡述了為什麼人工智能的發展應該減速，以便能夠部署足夠的安全防護措施。該計劃包括——除了其他事項外——公司與政府之間在安全部署方面的國際合作戰略。競爭對手的人工智能高管——如 OpenAI 的山姆·阿爾特曼（Sam Altman）和 xAI 的埃隆·馬斯克（Elon Musk）——都支持阿莫代的計劃。

這篇文章在科技行業引發了進一步的討論，儘管並非所有人都同意阿莫代呼籲全球協調行動的觀點。實際上，許多人似乎認為政府監管並不一定需要發揮作用。

最新加入這一辯論的是 Meta 首席執行官馬克·扎克伯格（Mark Zuckerberg），他本週在 X 上分享了他對此問題的看法。

“我的觀點是，信任和一致性正迅速成為區分代理和模型的最重要能力。” 扎克伯格透露，他的公司因安全問題推遲了其人工智能模型的發佈。“Meta 推遲了 Muse 的發佈幾個月，以專注於安全和保障，” 扎克伯格説。“我們並沒有在其他人之前呼籲大家這樣做。我們只是將其作為日常工作的一部分，因為這顯然是對人們和我們來説正確的事情。”

扎克伯格——他支持阿莫代計劃的部分內容——似乎暗示政府的行動是多餘的，行業內部的有機激勵將促使公司確保安全。市場最終應該會使那些努力創建不會造成混亂的模型的公司獲得成功。這似乎與扎克伯格自己上個月撰寫的龐大文章相一致，該文章主張在必要時與政府進行有限的合作，但主要強調美國的競爭力是繁榮技術未來的關鍵。

一般來説，這似乎是許多其他科技高管的立場。

另一位高層管理人員是 Reddit 的聯合創始人亞歷克斯·奧哈尼安（Alexis Ohanian），他在週三對 CNBC 表示，他認為科技行業在向公眾解釋人工智能風險時大體上是 “聽而不聞”。然而，像扎克伯格一樣，奧哈尼安似乎也表達了希望公司能夠自行解決問題的願望。谷歌 DeepMind 的聯合創始人香農·萊格（Shane Legg）也分享了他的看法。“我們現在生活在一個能力迅速提升的時期，” 萊格説。“但我們不能讓能力超越安全。” 他補充道：“我們需要真正研究這些細節，以及在實踐中如何運作。”

儘管大型實驗室呼籲公私合作，但一些支持監管的聲音似乎也相對滿意於讓企業自行制定規則。實際上，本週還有一個稍微不那麼顯眼但同樣有趣的故事是，《信息》報道説 OpenAI、Anthropic 和其他主要人工智能公司正在共同努力創建一個人工智能標準組織——被某個媒體描述為一個私人 “自我監管機構”。

之前曾討論過創建一個類似的聯邦管理機構。然而，特朗普白宮——其中包括一些積極支持人工智能的聲音，並且在很大程度上推動無監管的科技業務（該政府甚至試圖強行阻止各州政府推出自己的人工智能法律）——並沒有追求任何相關行動。該政府的 “人工智能沙皇”，科技老兵大衞·薩克斯（David Sacks）表示，人工智能監管應留給開發它的公司。

與白宮一樣，國會的知名成員似乎對接受阿莫代的監管提議同樣不感興趣。在 Anthropic 首席執行官的文章發表不久後，眾議院議長邁克·約翰遜（Mike Johnson）對此表示：“你們在 10 年內不會都死去。”

一個私人組織將使行業在自願承諾的情況下保持不受監管，並自然賦予負責創建它的公司一定的權威和影響力。這引出了另一個持續的説法，即行業對監管的呼籲實際上是一種 “監管捕獲” 的策略。根據這一論點，已經在行業中享有顯著地位的強大公司可能會利用監管策略來排擠或使資源較少的小公司處於不利地位——從而抑制它們的競爭。這不一定涉及實際的監管，但可能涉及自願的行業標準，儘管如此仍會對較弱小的公司施加壓力。

中國政府的許多知名聲音也呼應了這一立場。在阿莫代本週呼籲 “控制前沿” 後，中國外交部的郭家琨（Guo Jiakun）指責美國人利用 “恐懼宣傳” 來破壞全球人工智能治理的發展，而中國國營報紙的一篇社論則稱阿莫代的言論完全是 “冷戰劇本” 的內容。

重塑公司與中國的商業方式——這是阿莫代在他的文章中呼籲的事情之一——自然可以成為美國公司在自身利益上施加影響的機會。阿莫代甚至承認這是目標。他在文章中寫道：“如果我們能夠很好地執行這些措施，我相信它們將足以減緩中國的進步，從而在未來 3 到 5 年內顯著擴大美國的領先優勢——這是人工智能在地緣政治上變得最重要的窗口期。”

然而，不僅僅是中國認為大型美國人工智能實驗室試圖將比賽結果傾向於自己。加拿大人工智能公司 Cohere 的首席執行官艾丹·戈麥斯最近指責這些公司形成了一個 “卡特爾”，在一篇博客文章中寫道：“人工智能需要護欄。這不是爭議所在，也從來不是。爭議在於誰來制定這些護欄，誰能參與，以及規則保護的是誰的利益。”

正如戈麥斯所指出的，人工智能安全領域是一個深具政治性的領域，安全的定義條款——以及由誰來定義——最終將幫助決定誰在下一階段的人工智能競爭中佔得先機，誰又會被拋在後面。