--- title: "诺奖得主杰弗里·辛顿：应建立 AI 安全相关机构和社群，推动 AI 向善" description: "诺贝尔奖得主杰弗里·辛顿在 2025 世界人工智能大会上呼吁建立 AI 安全机构和国际社群，以推动 AI 向善。他指出，几乎所有专家认为将出现比人类更智能的 AI，AI 可能会操纵人类，简单关闭 AI 并不现实。他强调，各国应在主权范围内研究 AI 的安全性，并分享成果，以确保 AI 能辅助人类，而非统治人类。" type: "news" locale: "zh-CN" url: "https://longbridge.com/zh-CN/news/250220802.md" published_at: "2025-07-26T03:47:48.000Z" --- # 诺奖得主杰弗里·辛顿：应建立 AI 安全相关机构和社群，推动 AI 向善 > 诺贝尔奖得主杰弗里·辛顿在 2025 世界人工智能大会上呼吁建立 AI 安全机构和国际社群，以推动 AI 向善。他指出，几乎所有专家认为将出现比人类更智能的 AI，AI 可能会操纵人类，简单关闭 AI 并不现实。他强调，各国应在主权范围内研究 AI 的安全性，并分享成果，以确保 AI 能辅助人类，而非统治人类。 在 2025 世界人工智能大会主论坛上，图灵奖、诺贝尔物理学奖得主杰弗里·辛顿表示，几乎所有专家认为会出现比人类更智能的 AI，AI 智能体为完成任务，会想要生存、获得更多控制，可能操纵人类，简单关闭 AI 不现实，就像养老虎当宠物，养大后可能被其伤害，而人类无法消灭 AI，因其在多领域作用重大。杰弗里·辛顿希望建立 AI 安全机构、国际社群，研究训练 AI 向善的技巧，各国可在本国主权范围内研究并分享成果，全球或主要 AI 国家应思考建立相关网络，研究如何训练聪明的 AI 辅助人类，而非消灭或统治人类，这是人类长期面临的重要问题。 ### Related Stocks - [AI.US - C3.ai](https://longbridge.com/zh-CN/quote/AI.US.md) ## Related News & Research | Title | Description | URL | |-------|-------------|-----| | AI 巨頭競爭愈演愈烈 OpenAI 及 Anthropic 掌舵人印度峯會拒牽手 | 在印度新德裡舉行的人工智慧高峰會上，OpenAI 執行長 Sam Altman 與 Anthropic 執行長 Dario Amodei 拒絕牽手，展現出兩家公司之間的競爭。Altman 表示沒有牽手並非故意，而是拍攝過程中的混亂。兩家公司 | [Link](https://longbridge.com/zh-CN/news/276408352.md) | | 阿特曼出席 AI 峯會 強調全球亟需監管措施 | 阿特曼在 AI 全球峯會上強調，全球亟需對快速發展的人工智慧技術進行監管。他指出，AI 的民主化是人類繁榮發展的關鍵，集中技術於單一公司或國家可能導致災難。他呼籲建立類似國際原子能總署的組織，以協調 AI 事務並應對新出現的問題，如失業和網 | [Link](https://longbridge.com/zh-CN/news/276395979.md) | | 馬斯克旗下 Grok 美國市佔升至近 18% 未受傳播色情內容影響 | 馬斯克旗下的 AI 聊天機器人 Grok 在美國的市場份額已升至近 18%，成為第三大聊天機器人，僅次於 ChatGPT 和 Google Gemini。儘管 Grok 捲入生成色情內容的爭議，但其使用率未受影響。分析師認為，社交媒體平台 | [Link](https://longbridge.com/zh-CN/news/275965405.md) | | BrandPilot AI 推出 ClickRadar(TM)，目標是解決 630 億美元的機器人氾濫問題 | BrandPilot AI Inc. 推出了 ClickRadar™，這是一種實時機器人檢測技術，旨在解決數字廣告中 630 億美元的非人類流量問題。該產品幫助廣告主識別和減輕無效的自動化互動，這些互動扭曲了績效指標並浪費了預算。Click | [Link](https://longbridge.com/zh-CN/news/276342971.md) | | 馬斯克計劃於月球建 AI 衞星工廠 用質量驅動器發射 X 未來推出支付功能「X Money」 | 馬斯克在 xAI 員工大會上表示計劃在月球建立 AI 衞星工廠，利用「質量驅動器」發射衞星，並構想建立自給自足的城市以支持 AI 發展。他還透露社交平台 X 的月活躍用户已達 6 億，計劃推出支付功能「X Money」，目標是將用户數提升至 | [Link](https://longbridge.com/zh-CN/news/275582010.md) | --- > **免责声明**：本文内容仅供参考，不构成任何投资建议。