7 月 26 日上午，2025 世界人工智能大會（WAIC）在上海拉開帷幕。
在大會主論壇上，圖靈獎得主、諾貝爾物理學獎得主傑弗裏·辛頓（Geoffrey Hinton）出席並作演講，這也是辛頓首次以線下形式在中國公開亮相。
辛頓本次演講以《數字智能是否會取代生物智能》為主題，他深刻剖析了數字智能與生物智能的根本差異，並分別用樂高積木和養老虎打比方説明了 AI 的思維邏輯以及人與 AI 的關係。
在對 AI 前景方面，辛頓感到警惕。他直言，我們正創造比自己更聰明的 AI，這就像在家裏養一頭老虎當寵物，指望 “消除它” 是不現實的。
以下是辛頓的核心觀點：
<ol>
<li>AI 發展有兩種範式，一是邏輯型範式，認為智能本質在於推理，通過符號規則操作符號表達式；二是生物學基礎範式，認為智能基礎在於學習和聯結網絡，理解先於學習。</li>
<li>大語言模型理解語言的方式與人類基本相同。人類有可能就是大語言模型，也會像大語言模型一樣產生幻覺，創造出許多幻覺性語言。</li>
<li>如果用樂高積木類比看，每個詞都是多維度的積木，可以根據上下文調整形狀，詞與詞之間需要 “恰當握手” 來產生含義。這種動態的特徵整合過程，正是人腦和神經網絡理解語言的根本方法。</li>
<li>數字智能具有兩大優勢：一是軟硬件分離帶來的 “永恆性”，知識可以永久保存和複製；二是知識傳播效率極高，數字智能可以通過參數共享瞬間傳遞萬億比特信息。相比之下，生物智能雖然耗能更少，但知識分享困難。</li>
<li>當能源足夠廉價、可以複製成千上萬同樣聰明的 AI 大腦的時候，數字智能將不可逆地超越生物智能。因為它們能以直接拷貝大腦知識的方式在羣體中瞬時傳播知識。</li>
<li>我們正在創造比人類更聰明的 AI，而這些智能體具有生存慾望和獲取控制權的動機。</li>
<li>
<section>當前人類與 AI 的關係，恰似飼養一隻老虎——它長大後可能輕易超越人類。為了生存，要麼擺脱它，要麼找到永久保護自身的方法。</section>
</li>
<li>AI 已無法消除，它能大幅提升幾乎所有行業的效率，即便有國家想消除，其他國家也不會認同。</li>
<li>辛頓建議，我們應當建立國際 AI 安全機構網絡，研究如何訓練超級 AI 向善，讓它們願意做輔助工作而不是消滅人類。</li>
<li>如何訓練比人類更聰明的 “好 AI”，將是全人類的長期課題。好消息是在這個問題上，所有國家都有合作的動機和可能性。</li>
</ol>
以下為演講全文紀要：
<blockquote>
各位同事、各位領導、女士們先生們，感謝大家給我這個機會，與各位分享我對 AI 歷史和未來的個人觀點。
60 多年來，AI 發展呈現出兩種不同的範式和路徑。第一種是邏輯型範式，過去一個世紀都以此為主導。這種觀點認為智能的本質在於推理，通過符號規則對符號表達式進行操作來實現推理，從而幫助我們更好地理解知識的表達方式。
另一種是以生物學為基礎的 AI 理解方式，這也是圖靈和馮諾依曼所相信的觀點。他們認為智能的基礎在於更好地學習和了解學習網絡中的連接，在這個過程中理解是第一位的，然後才能實現學習。與這兩種理論相對應的，一個是符號型 AI 原理，另一個則是完全不同的數字化理論。數字的本質實際上是一系列語義學特徵的集合。
1985 年，我創建了一個小型模型，試圖將這兩個理論結合起來，更好地理解人們如何理解詞彙。我為每個詞設置了多個不同特徵，記錄前一個數字的特徵後，就可以預測下一個數字或下一個詞，然後繼續預測後續詞彙。在這個過程中，我們沒有存儲任何句子，而是生成句子並預測下一個詞。這些關聯性知識取決於不同詞彙特徵之間的語義互動。
接下來的 30 年發生了什麼呢？
十年後，Bengio 採用了類似的建模方式，但將規模大幅擴展，使其成為自然語言的真實模擬。20 年後，計算語言學家開始接受特徵向量嵌入來表達詞彙含義。又過了 30 年，谷歌發明了 Transformer，OpenAI 的研究人員也向大家展示了這一技術的能力。
這就是我們今天所擁有的成果。
因此，我將今天的大語言模型視為早期微型語言模型的後代，它們擁有了更豐富的詞彙量。
1985 年以後，大語言模型開始使用更多詞彙作為輸入，採用更多層的神經元結構。由於需要處理大量模糊的數字，學習特徵之間建立了更加複雜的交互模式。大語言模型與人類理解語言的方式相同，基本理解過程是將語言轉化為特徵，然後以完美的方式整合這些特徵。這正是大語言模型各個層次所做的工作。因此，大語言模型真正理解人類如何理解問題，與人類理解語言的方式一致。
傳統符號 AI 的做法是將語言轉化為不模糊的符號，但實際情況並非如此，人類不是這樣理解語言的。可以用樂高積木來比喻理解過程：通過樂高積木可以搭建任何 3D 模型，比如製作車子的小模型。將每個詞視為一個多維度的樂高積木，可能包含幾千個不同維度。這種多維度的積木可以進行建模，創造多種不同內容，語言因此變成了一個建模工具，能夠隨時與人溝通，只需要給每個積木命名即可，每個積木就是一個詞。
語言和樂高積木存在許多差異。樂高積木有多種不同類型，數量達到成千上萬塊。樂高積木的造型是固定的，但詞的符號形狀可以進行設定，也可以根據不同情況進行調整。樂高積木通過塑料圓柱體插入塑料孔，或將正方形插入正方形孔來連接，相對確定。
語言卻不同，每個詞可以想象成有很多隻手。要更好地理解詞彙，需要讓詞與詞之間恰當地握手。一旦詞的造型發生變形，它與另一個詞的握手方式就會改變。這涉及優化問題：一個詞變形後意思發生變化，如何與下一個詞握手以產生更好的含義。這就是人腦理解意思的本質，也是神經網絡理解意思的根本方法，類似於蛋白質與蛋白質之間的組合過程。
蛋白質通過將氨基酸進行不同模型整合融合，結合後能產生更有意義的內容。這正是人腦理解詞彙和語言的方式。因此我認為，人類理解語言的方式和大語言模型理解語言的方式幾乎相同，人類有可能就是大語言模型，也會像大語言模型一樣產生幻覺，創造出許多幻覺性語言。
但在一些重要的根本性方面，大語言模型與人類不同，甚至比人類更強大。計算機科學的一個基礎原則是將軟件和硬件分離，這使得同樣的軟件可以在不同硬件上運行，這與人類存在根本差異，也是計算機科學存在的基礎。
程序中的知識是永恆存在的，軟件和程序可以永久保存。即使所有硬件都被摧毀，只要軟件繼續存在，就可以隨時復活。從這個意義上説，計算機程序的知識具有永恆性和不朽性。
要實現這種永恆性，需要晶體管在高功率運行時仍能產生可靠的二進制行為，這個過程成本很高。我們無法利用硬件中豐富的模擬特性，因為這些特性不夠穩定可靠，每次都是模擬型的，每次計算結果都不相同。人腦是模擬的而非數字的，每次神經元激發過程都是模擬型的，不會完全相同。我無法將自己大腦中的神經元結構轉移到他人大腦中，因為每個人的神經元連接方式都不同，我的神經元連接方式只適合我的大腦神經結構。知識傳播在硬件中的方式與在人腦中的方式不同，這正是問題所在。
如果我們做不到永生，硬件的優勢在於它不依賴於特定條件，因此具有永生特性，能帶來兩大好處。
我們可以使用功耗極低的模擬硬件。僅用很小的功率和電能就能實現功能，人腦只需要 30 瓦特就足夠運行，而我們有幾萬億個神經元連接。這種發展硬件的情況與電子管的發展類似。
我們能夠做到極其精確的模擬，不需要花費大量資金去製造完全相同的硬件。
但是我們現在面臨一個較大的問題：從一個模擬模型轉換到另一個模型，將知識進行遷移是非常低效和困難的。就像我無法直接將腦中的想法展示給你一樣，我只能通過解釋的方式向你説明已經學到的內容。
解決這個問題的最佳方法是蒸餾技術。DeepSeek 就採用了這種方法，將大型神經網絡的知識轉移到小型神經網絡中。這個想法基於教師和學生的關係模型，在某些情況下，教師將相關概念聯繫起來，生成下一個輸出單元。
他將詞彙與詞彙在上下文中相互連接，通過修改連接來建立聯繫。學生也可以表達相同的意思，但他需要調整表達方式來傳達相同含義。
我們訓練模型的方式與人類知識傳遞的方式相似，即將一個人的知識傳遞給另一個人，但這種方式效率很低。
一句話可能包含大約一百比特的信息，這個信息量並不算特別多。這種從一個人到另一個人的傳遞方式限制了我們轉移知識的數量。通過緩慢講話的方式將知識傳遞給他人，每秒鐘最多也就能傳遞 100 個比特左右的信息。即使對方完全理解了所説的內容，傳遞效率仍然不高。但如果與數字智能之間的知識轉化效率相比，兩者存在巨大差別。
如果我們擁有同一個神經網絡軟件的多個副本，將這些副本分別部署在不同的硬件設備上，由於它們都採用數字化方式，它們能夠以相同的方式使用各自的參數，並通過平均化位置參數的方式來實現知識共享，最終通過互聯網進行傳播。
我們可以創建成千上萬的拷貝，它們能夠自主改變權重並取平均數，從而實現知識轉移。
這種轉移速度取決於連接點的數量。每次能夠分享萬億個比特的信息，比人類分享知識的速度快幾十億倍。GPT-4 就是很好的例子，它有許多不同的拷貝在不同硬件上運轉，能夠分享各自從網絡上學到的不同信息。
當智能體在現實世界中運行時，這一點更加重要，因為它們能夠不斷加速和拷貝。多個智能體比單個智能體學得更多，它們能夠分享權重，而模擬軟件或模擬硬件無法做到這一點。
我們認為，數字計算雖然需要大量能源，但智能體可以方便地獲取相同權重，分享從不同經驗中學到的知識。相比之下，生物計算耗能更少，但分享知識卻很困難。如我剛才所展示的，如果能源很便宜，數字計算就會更具優勢，這也讓我感到擔憂。
幾乎所有專家都認為我們將生產出比人類更智能的 AI。我們習慣了成為最智能的生物，所以很多人難以想象當 AI 在世界中比人類更智能時會發生什麼。如果想要了解人類不再是最智能物種時會怎樣，我們可以問問雞的感受。
我們正在創建 AI 智能體，它們能夠幫助我們完成任務。這些智能體已經具備了一定的能力，可以進行自我複製，能夠為自己的子目標評級。它們會想做兩件事情：第一是生存，第二是實現我們賦予它們的目標。
為了完成我們給它們的目標，它們也希望能夠獲得更多的控制權。所以這些智能體既想要生存，也想要更多的控制。
我認為我們沒辦法輕易改變或關閉它們。我們不能簡單地把它們一關了事，因為它們會很方便地操縱使用它們的人。到時候我們就像三歲的孩子，而它們像成年人一樣，操縱三歲的人是很容易的。
有人覺得當它們變得比我們更聰明時，我們就把它們關掉，但這是不現實的。它們會操縱和勸説操控機器的人不要把它們關掉。
我覺得我們現在的情況就像有人把老虎當寵物。老虎幼崽確實可以是很可愛的寵物，但如果一直養這個寵物，那麼你要確保它長大的時候不會把你殺掉。
一般來説，養老虎當寵物不是一個好想法。但如果你養了老虎，只有兩個選擇。要麼把它訓練好讓它不攻擊你，要麼把它消滅掉。而對於 AI，我們沒有辦法把它消滅掉。
AI 在很多方面都表現出色，包括醫療、教育、氣候變化、新材料等領域，幾乎能夠幫助所有行業變得更有效率。我們無法消除 AI，即使一個國家消除了 AI，別的國家也不會這麼做，所以這不是一個選項。這意味着如果我們想要人類生存，就必須找到辦法來訓練 AI，讓它們不要消滅人類。
我需要強調的是，我是以個人身份發言，發表個人觀點。我覺得各個國家在某些方面可能不會合作，比如網絡攻擊、致命武器，或者操縱公眾意見的虛假視頻。不同國家的利益並不一致，他們有着不同的看法。在這些方面不會有有效的國際合作。我們可以防止一些人制造病毒，但在這些方面不會有什麼國際合作。不過有一個方面我們是會進行合作的，我覺得這也是最重要的問題。
如果你看一下 50 年代冷戰巔峯時期，美國和蘇聯一起合作來預防全球核戰爭。大家都不希望打核戰爭，儘管他們在很多方面都是對抗的，但在這一點上可以合作。我們現在的局面是，沒有一個國家希望 AI 統治世界，每個國家都希望人類能夠掌控世界。如果有一個國家找到辦法來防止 AI 操縱事件，那麼這個國家肯定會很樂意告訴其他國家。
所以我們希望國際社會能夠有一個 AI 安全機構組成的國際社羣，來研究技能，培訓 AI，讓它們向善。我們的希望是，訓練 AI 向善的技術與訓練 AI 變得聰明的技術是不同的。因此，每個國家都可以進行自己的研究來讓 AI 向善，可以在自己的主權 AI 上進行這項研究。雖然不能對其他國家保密，但可以與大家分享結果，即如何訓練 AI 向善。
這是我的提議：全球或世界主要國家，或者主要的 AI 國家應該考慮建立一個網絡，包括來自各國的機構來研究這些問題，研究如何訓練一個已經非常聰明的 AI，使這個 AI 不想消滅人類，不想統治世界，並且樂意做輔助工作，即使 AI 比人類聰明得多。我們還不知道如何做到這一點。
從長期來説，這可以説是人類面臨的最重要問題。好消息是在這個問題上，所有國家都可以一起合作。謝謝。
</blockquote>

OpenAI

辛頓認為，我們正在創造比人類更聰明的 AI，當前人類與 AI 的關係，恰似飼養一隻老虎，為了生存，要麼擺脱它，要麼找到永久保護自身的方法；如今 AI 已經不可消除，如何訓練比人類更聰明的 “好 AI”，將是全人類的長期課題。

“AI 教父” 辛頓 WAIC 演講：我們正在養一頭老虎，別指望能 “關掉它”