---
title: "諾獎得主傑弗裏·辛頓：應建立 AI 安全相關機構和社羣，推動 AI 向善"
description: "諾貝爾獎得主傑弗裏·辛頓在 2025 世界人工智能大會上呼籲建立 AI 安全機構和國際社羣，以推動 AI 向善。他指出，幾乎所有專家認為將出現比人類更智能的 AI，AI 可能會操縱人類，簡單關閉 AI 並不現實。他強調，各國應在主權範圍內研究 AI 的安全性，並分享成果，以確保 AI 能輔助人類，而非統治人類。"
type: "news"
locale: "zh-HK"
url: "https://longbridge.com/zh-HK/news/250220802.md"
published_at: "2025-07-26T03:47:48.000Z"
---

# 諾獎得主傑弗裏·辛頓：應建立 AI 安全相關機構和社羣，推動 AI 向善

> 諾貝爾獎得主傑弗裏·辛頓在 2025 世界人工智能大會上呼籲建立 AI 安全機構和國際社羣，以推動 AI 向善。他指出，幾乎所有專家認為將出現比人類更智能的 AI，AI 可能會操縱人類，簡單關閉 AI 並不現實。他強調，各國應在主權範圍內研究 AI 的安全性，並分享成果，以確保 AI 能輔助人類，而非統治人類。

在 2025 世界人工智能大會主論壇上，圖靈獎、諾貝爾物理學獎得主傑弗裏·辛頓表示，幾乎所有專家認為會出現比人類更智能的 AI，AI 智能體為完成任務，會想要生存、獲得更多控制，可能操縱人類，簡單關閉 AI 不現實，就像養老虎當寵物，養大後可能被其傷害，而人類無法消滅 AI，因其在多領域作用重大。傑弗裏·辛頓希望建立 AI 安全機構、國際社羣，研究訓練 AI 向善的技巧，各國可在本國主權範圍內研究並分享成果，全球或主要 AI 國家應思考建立相關網絡，研究如何訓練聰明的 AI 輔助人類，而非消滅或統治人類，這是人類長期面臨的重要問題。

### Related Stocks

- [AI.US - C3.ai](https://longbridge.com/zh-HK/quote/AI.US.md)

## Related News & Research

| Title | Description | URL |
|-------|-------------|-----|
| AI 巨頭競爭愈演愈烈 OpenAI 及 Anthropic 掌舵人印度峯會拒牽手 | 在印度新德裡舉行的人工智慧高峰會上，OpenAI 執行長 Sam Altman 與 Anthropic 執行長 Dario Amodei 拒絕牽手，展現出兩家公司之間的競爭。Altman 表示沒有牽手並非故意，而是拍攝過程中的混亂。兩家公司 | [Link](https://longbridge.com/zh-HK/news/276408352.md) |
| 阿特曼出席 AI 峯會 強調全球亟需監管措施 | 阿特曼在 AI 全球峯會上強調，全球亟需對快速發展的人工智慧技術進行監管。他指出，AI 的民主化是人類繁榮發展的關鍵，集中技術於單一公司或國家可能導致災難。他呼籲建立類似國際原子能總署的組織，以協調 AI 事務並應對新出現的問題，如失業和網 | [Link](https://longbridge.com/zh-HK/news/276395979.md) |
| 馬斯克旗下 Grok 美國市佔升至近 18% 未受傳播色情內容影響 | 馬斯克旗下的 AI 聊天機器人 Grok 在美國的市場份額已升至近 18%，成為第三大聊天機器人，僅次於 ChatGPT 和 Google Gemini。儘管 Grok 捲入生成色情內容的爭議，但其使用率未受影響。分析師認為，社交媒體平台  | [Link](https://longbridge.com/zh-HK/news/275965405.md) |
| BrandPilot AI 推出 ClickRadar(TM)，目標是解決 630 億美元的機器人氾濫問題 | BrandPilot AI Inc. 推出了 ClickRadar™，這是一種實時機器人檢測技術，旨在解決數字廣告中 630 億美元的非人類流量問題。該產品幫助廣告主識別和減輕無效的自動化互動，這些互動扭曲了績效指標並浪費了預算。Click | [Link](https://longbridge.com/zh-HK/news/276342971.md) |
| 馬斯克計劃於月球建 AI 衞星工廠 用質量驅動器發射 X 未來推出支付功能「X Money」 | 馬斯克在 xAI 員工大會上表示計劃在月球建立 AI 衞星工廠，利用「質量驅動器」發射衞星，並構想建立自給自足的城市以支持 AI 發展。他還透露社交平台 X 的月活躍用户已達 6 億，計劃推出支付功能「X Money」，目標是將用户數提升至 | [Link](https://longbridge.com/zh-HK/news/275582010.md) |

---

> **免責聲明**：本文內容僅供參考，不構成任何投資建議。
