諾獎得主傑弗裏·辛頓:應建立 AI 安全相關機構和社羣,推動 AI 向善

智通財經
2025.07.26 03:47
在 2025 世界人工智能大會主論壇上,圖靈獎、諾貝爾物理學獎得主傑弗裏·辛頓表示,幾乎所有專家認為會出現比人類更智能的 AI,AI 智能體為完成任務,會想要生存、獲得更多控制,可能操縱人類,簡單關閉 AI 不現實,就像養老虎當寵物,養大後可能被其傷害,而人類無法消滅 AI,因其在多領域作用重大。傑弗裏·辛頓希望建立 AI 安全機構、國際社羣,研究訓練 AI 向善的技巧,各國可在本國主權範圍內研究並分享成果,全球或主要 AI 國家應思考建立相關網絡,研究如何訓練聰明的 AI 輔助人類,而非消滅或統治人類,這是人類長期面臨的重要問題。