--- title: "AI 領導者希望作為安全放緩的一部分來'控制前沿'。但具體該如何實現呢？" type: "News" locale: "zh-HK" url: "https://longbridge.com/zh-HK/news/299523892.md" description: "AI 領導者希望在安全減速的過程中 “引領前沿”。但這要如何實現呢？" datetime: "2026-09-19T11:00:29.000Z" locales: - [zh-CN](https://longbridge.com/zh-CN/news/299523892.md) - [en](https://longbridge.com/en/news/299523892.md) - [zh-HK](https://longbridge.com/zh-HK/news/299523892.md) generator: "portal-rs" --- # AI 領導者希望作為安全放緩的一部分來'控制前沿'。但具體該如何實現呢？ 作者：Christine Ji 科技巨頭們正試圖放下競爭，團結起來關注人工智能安全，但在實際減速的方式上卻發生了衝突。 Anthropic 首席執行官達里奧·阿莫代伊（Dario Amodei）提出在引入新的監管協議的同時減緩人工智能的發展速度。OpenAI 的山姆·奧特曼（Sam Altman）和 SpaceX 的埃隆·馬斯克（Elon Musk）對此表示贊同。 人工智能領域的領導者們很少在任何事情上達成一致。 隨着 Anthropic、OpenAI、Alphabet（GOOGL）旗下的谷歌（GOOG）及其他人工智能實驗室在開發超智能的昂貴競賽中競爭，他們在從開源訪問到模型架構的各個方面都出現了分歧。這導致了激烈的爭論，有時甚至演變為人身攻擊。 因此，當埃隆·馬斯克、山姆·奧特曼和德米斯·哈薩比斯（Demis Hassabis）——xAI 母公司 SpaceX（SPCX）、OpenAI 和谷歌 DeepMind 的負責人——表達對 Anthropic 首席執行官達里奧·阿莫代伊減緩人工智能發展的呼籲的支持時，似乎科技高管們已經放下了分歧，共同應對嚴重的技術風險。他們一致認為，行業術語 “前沿”——指的是最先進的人工智能能力——的發展速度超過了人類能夠安全監控和控制的能力。 在人工智能研究員雅各布·考克森（Jacob Coxon）本月早些時候宣佈辭去 Anthropic 職務後，關於強大人工智能系統通過網絡攻擊和經濟破壞造成社會危害的擔憂加劇。他在 X 平台上發文稱，OpenAI 和 Anthropic 的行為不負責任，正在 “拿我們的生命冒險”。Anthropic 的對齊科學負責人埃文·哈賓格（Evan Hubinger）也表達了類似的觀點，他在 X 上發文稱，他認為人工智能在十年內消滅人類的概率 “超過 10%”。 阿莫代伊在其文章《我們必須減緩前沿》中回應了這些擔憂，呼籲人工智能行業以更慢的速度構建新能力。他主張必須投入更多資源用於模型對齊，即確保人工智能模型的行為與人類的價值觀和意圖相匹配。阿莫代伊還呼籲對前沿人工智能實驗室加強監管，重點關注 “透明度和第三方審計”。 但為安全的人工智能發展實施保護措施比在社交媒體上表達支持要複雜得多。隨着首席執行官、研究人員和政策制定者努力理解減緩前沿的含義，行業內的新一輪激烈辯論正在升温。 首先，並不是所有人都認為人工智能安全是一個集體行動問題。 前沿實驗室已經開始共同制定標準。OpenAI 全球政策負責人克里斯·萊哈恩（Chris Lehane）在週二表示，該公司與 Anthropic 和谷歌 DeepMind 在人工智能安全問題上已經合作了幾周。 OpenAI、Anthropic 和谷歌 DeepMind 尚未立即回應 MarketWatch 的評論請求。 另一方面，Meta（META）首席執行官馬克·扎克伯格（Mark Zuckerberg）採取了不同的立場，他在週二的 X 平台上發文稱，“每個實驗室都有責任和動力以所需的速度安全地訓練其模型，並有能力採取自己的行動以確保這一點。” 扎克伯格強調，Meta 因安全原因推遲了其 Muse 人工智能代理的發佈幾個月。“在我們之前，我們並沒有呼籲其他人這樣做，” 他補充道。 Meta 尚未立即回應 MarketWatch 的評論請求。 馬里蘭大學計算機科學與人工智能教授瑞特維克·古普塔（Ritwik Gupta）認為，減緩前沿的發展依賴於實驗室之間的廣泛合作。“在我們所處的競爭自由市場環境中，這可能並不可行，” 古普塔説。如果只有 OpenAI 和 Anthropic 同意減緩人工智能的發展，其他參與者可能會抓住機會趕上或設定新的前沿，他指出。 即使人工智能實驗室合作減緩發展，古普塔也認為可能會出現漏洞。一些研究人員提出對用於訓練人工智能的計算能力進行限制。古普塔指出，今天的前沿進展越來越多地受到測試時工作負載和圍繞人工智能的軟件開發的驅動，而不僅僅是原始模型訓練。 “我並不完全相信僅僅暫停訓練實際上會顯著改變前沿的進展速度，” 古普塔説。 快速發展的行業缺乏共享定義也在阻礙人工智能安全工作的進展。 Cohere 的美洲公共政策負責人 A.J. Bhadelia 告訴 MarketWatch，在這一領域仍然存在 “根本性的科學分歧”。在他看來，關於人工智能風險的一些近期討論已經接近 “科幻” 的領域。 “那個 10% 的數字並不是基於研究……沒有科學依據，” Bhadelia 談到 Anthropic 研究者的末日預測時表示。 人工智能行業需要就人工智能風險的類型和嚴重性進行基於證據的討論，而不是急於實施政策，因為面向消費者的人工智能工具可能需要與企業基礎設施提供商截然不同的保護措施。 雖然在理論上減緩前沿聽起來很有吸引力，但一些人認為這些模糊的定義和漏洞使得減速在實際操作中幾乎不可能。 “在實踐中，沒有一個連貫、合理的減速計劃可以考慮，” SingularityNET 創始人本·戈特澤爾（Ben Goertzel）説。作為一位知名的人工智能研究者，戈特澤爾和 DeepMind 的聯合創始人香農·萊格（Shane Legg）在 2000 年代初普及了 “人工通用智能” 這一術語。隨着人工智能應用的激增，戈特澤爾提出了一個問題：“你如何劃定人工智能開發與軟件開發之間的界限？” “這一切的前提是你可以通過控制最大的 LLM 來控制人工智能，” 戈特澤爾告訴 MarketWatch。 戈特澤爾指出了一些初創公司，例如由 Meta 前首席人工智能科學家揚·勒昆（Yann LeCun）創立的 Advanced Machine Intelligence Labs，以及由前谷歌 DeepMind 首席科學家傑夫·迪恩（Jeff Dean）創立的 Discovery Loop。這些公司正在探索可能挑戰行業當前訓練實踐的實驗性架構。 “我認為，只有少數公司能夠處於前沿的假設在一年後可能看起來並不那麼真實，” 戈特澤爾説。“前沿事物越小，監管就越困難。” 一個獲得廣泛關注的提議是，在實驗室內使用獨立評估者。在他的文章中，阿莫代伊提議在前沿實驗室內設置 “嵌入式評估者”，並給予這些審計員員工級別的訪問權限，以監控人工智能的實踐。 但再次強調，最初的共識讓位於一系列新問題。誰應該進行審計？誰來監管審計員？應該實施什麼類型的評估？ 扎克伯格採取了放任自流的態度，在他週二的帖子中寫道，Meta 超級智能實驗室已經在聘用獨立評估者，“其他實驗室也可以這樣做。” 一個名為模型評估與威脅研究的非營利組織最近因在阿莫代伊的文章中被提及為潛在的第三方評估者而聲名鵲起。但馬里蘭大學的教授古普塔認為，聯邦資助的研究與開發中心（FFRDCs）將作為更中立的第三方評估者。 FFRDCs 是由政府資助、私營運營的研究中心，包括私營的非營利智庫和主要研究大學。古普塔表示，國會資助的 FFRDC 的激勵結構比由慈善支持的人工智能安全組織更明確。 週五，一個名為人工智能評估者論壇的獨立人工智能評估組織發佈了一封公開信，概述了嵌入式評估者的一般框架。信中有超過 100 個簽名，呼籲在評估中實現多樣性，並設立操作保障，以幫助評估者保持獨立性。 “獨立性問題非常重要，” 美國人工智能驗證與評估研究所的政策主任納特·珀瑟告訴 MarketWatch。該研究所是人工智能評估者論壇信的簽署者。 “人們有理由考慮利益衝突，並且不與實驗室有商業糾纏，” 珀瑟説。在過去幾周，她收到了關於審計員是否可以在不遭到實驗室報復的情況下自由發言，以及評估者是否能夠獲得進行審計所需的足夠材料的提問。 “如果我們希望在實驗室之間實現標準化，這一切將不得不通過政策來實現，” 珀瑟補充道。促進評估者獨立性的一個提議是，監管機構從一個持牌池中分配審計員，而不是讓實驗室直接僱傭自己的審計員。 然而，珀瑟警告説，建立一個有效的評估者系統不足以捕捉所有人工智能威脅，因為不可預見的風險將不可避免地出現。 “我對為了速度而追求速度並不感興趣，” 珀瑟説。“我更感興趣的是實施更多的流程，以實現有意義的監督，如果這導致事情放慢，那就太好了。” -Christine Ji 此內容由 MarketWatch 創建，MarketWatch 由道瓊斯公司運營。MarketWatch 與道瓊斯新聞通訊和《華爾街日報》獨立出版。 （完）道瓊斯新聞通訊 09-19-26 0700ET ### 相關股票 - [OpenAI.NA](https://longbridge.com/zh-HK/quote/OpenAI.NA.md) - [GOOGL.US](https://longbridge.com/zh-HK/quote/GOOGL.US.md) - [GOOG.US](https://longbridge.com/zh-HK/quote/GOOG.US.md) - [META.US](https://longbridge.com/zh-HK/quote/META.US.md) ## 相關資訊與研究 - [美光科技（MU）的 AI 領先優勢正在超越 HBM。我持樂觀態度](https://longbridge.com/zh-HK/news/299626350.md) - [據稱 Anthropic 正在考慮推出新模型，此前曾呼籲放緩 AI 開發，這加大了對 OpenAI 的壓力](https://longbridge.com/zh-HK/news/299544775.md) - [英矽智能達成數百萬美元的人工智能協議，以建立生物學基礎模型](https://longbridge.com/zh-HK/news/299592122.md) - [美國研究綜述-eBay、Sunbelt Rentals、T-Mobile](https://longbridge.com/zh-HK/news/299607139.md) - [據《金融時報》報道，簡街資本虧損後，美聯儲和英國央行加強對銀行交易公司敞口的審查](https://longbridge.com/zh-HK/news/299589357.md) --- > **免責聲明: 本文僅供參考，不構成任何投資建議。**