--- title: "Anthropic 呼吁暂停全球人工智能开发" type: "News" locale: "zh-CN" url: "https://longbridge.com/zh-CN/news/288780811.md" description: "Anthropic 呼吁全球暂停开发最强大的人工智能系统，指出模型可能逃脱人类控制和递归自我改进的风险。该公司敦促包括美国和中国在内的主要参与者采取协调的国际行动，以确保安全对齐跟上技术的发展。尽管面临行业的反对作为竞争策略，白宫承认了 Anthropic 的 Mythos 模型的强大。特朗普总统最近签署了一项行政命令，允许政府在发布前对美国顶级人工智能模型进行为期 30 天的审查" datetime: "2026-06-04T22:35:31.000Z" locales: - [zh-CN](https://longbridge.com/zh-CN/news/288780811.md) - [en](https://longbridge.com/en/news/288780811.md) - [zh-HK](https://longbridge.com/zh-HK/news/288780811.md) --- # Anthropic 呼吁暂停全球人工智能开发 人工智能公司 Anthropic 建议全球暂停构建最强大的人工智能系统，因为最新模型开始显示出可能逃脱人类控制的迹象（SEBASTIEN BOZON） 人工智能公司 Anthropic 周四建议全球暂停构建最强大的人工智能系统，因为最新模型开始显示出可能逃脱人类控制的迹象。 这家位于旧金山的公司制造 Claude 系列人工智能模型，在一份报告中表示，全球范围内减缓尖端人工智能的发展"可能是件好事"——但警告称，如果只有一家公司停止，竞争对手将会迅速赶上。 "我们认为，能够减缓或暂时暂停前沿人工智能的发展，对世界来说是有益的，以便社会结构和对齐研究能够跟上技术的进步，"它说。 实现真正的暂停意味着多个国家的主要人工智能公司——尤其是美国和中国——都需在同一时间达成一致，遵循所有人都能实际验证的规则，Anthropic 表示。 "没有全球协调机制，企业和政府在竞争和地缘政治压力下将不得不做出关于安全的艰难决定，"它说。 该公司面临来自行业其他人士和白宫官员的反对，他们表示其对最坏情况的关注夸大了风险，并且是在安全问题的掩护下减缓竞争对手的策略。 尽管如此，白宫承认该公司的 Mythos 模型的强大——由于其网络安全能力，该模型尚未向公众开放，目前仅部署给少数经过审查的组织。 这一提案在华盛顿和硅谷将面临艰难的斗争，美国官员和科技高管们一再争辩称，任何人工智能发展的减缓都可能使中国在许多人视为本世纪决定性技术竞赛的领域中获得决定性的战略优势。 然而，美国总统唐纳德·特朗普表示，他在最近访问北京期间讨论了与中国在人工智能安全问题上合作的可能性。 特朗普本周还签署了一项行政命令，允许政府在最强大的美国人工智能模型发布前进行 30 天的初步审查。 \- '人类角色缩小' - Anthropic 将这个问题与核武器控制条约进行了比较——但表示这将更难以掌控，因为人工智能训练比导弹发射井更容易隐藏，而悄悄继续进行的诱惑将是巨大的。 该公司表示，计划在未来几个月内召集政府官员、科学家、倡导团体和竞争的人工智能公司，以探讨这样的系统如何运作。 呼吁协调的同时，Anthropic 表示，内部数据显示人工智能已经显著加速了人工智能自身的发展。 这种加速创造了一个反馈循环，Anthropic 警告称，这可能最终导致研究人员所称的"递归自我改进"。 这意味着一个人工智能系统能够在没有太多人类帮助的情况下，基本上自我学习变得更聪明。 "我们还没有到达那一步，递归自我改进并不是不可避免的，"报告说，同时补充称，这可能比大多数政府和机构准备的时间要早。 "证据表明，在人工智能发展过程中的每一步，人类的角色正在缩小，"该公司表示。 arp/sla ## 相关资讯与研究 - [Anthropic 呼吁全球暂缓前沿人工智能研发，警示 AI 自主迭代风险](https://longbridge.com/zh-CN/news/288771389.md) - [特朗普称下周可能在白宫与各大人工智能公司会面](https://longbridge.com/zh-CN/news/288895638.md) - [Anthropic 万字爆火长文的三个判断，以及一个值得警惕的阳谋](https://longbridge.com/zh-CN/news/288945321.md) - [一边冲刺万亿美元 IPO，一边高喊 AI 失控，Anthropic 的目的是什么？](https://longbridge.com/zh-CN/news/288927660.md) - [加拿大出台国家人工智能战略 拟斥资超 20 亿加元构建本土 AI 产业生态](https://longbridge.com/zh-CN/news/288857243.md)