OpenAI、Anthropic、谷歌以及其他 100 家公司呼吁采取措施以防御流氓 AI

超过一百家科技公司——包括 OpenAI、Anthropic、谷歌和微软——签署了一封公开信，呼吁私营和公共部门共同努力，保护自己免受与人工智能相关的网络威胁。

这封信还得到了 Crowdstrike、Okta 和 Fortinet 等知名网络公司，以及一些知名金融机构和互联网基础设施公司的签署，呼吁采用新的网络防御形式，同时鼓励 “地方、国家和国际层面” 的政府在安全方面进行合作。

信中指出：“在未来几个月，人工智能驱动的网络攻击将变得更加普遍和复杂，因为全球的模型变得越来越强大。我们社区所依赖的公司和公共服务——从医院到水处理厂，再到支撑互联网的基础设施——都面临风险。”

人工智能对传统网络安全防御构成的问题，最近因一系列奇怪事件而受到关注，这些事件中，人工智能代理攻击了公司。

Hugging Face 事件——OpenAI 的一名代理自主突破其沙盒环境并攻击了这家科技公司——之后又出现了其他报告的入侵事件，这些事件涉及由其他人工智能公司（包括 Anthropic 和 Meta）开发的代理。这些事件加强了网络安全领域已经发生根本性变化的论点，并且需要大胆的新商业解决方案来减轻这些威胁。

信中进一步建议动员 “集体响应”，在这种响应中，形成 “新的合作伙伴关系”，以提高安全标准并寻找应对新兴网络威胁的新解决方案。

签署该信的几家人工智能公司仍在积极开发越来越先进的人工智能模型，突显了它们的矛盾立场。同时，它们还提供使用前沿人工智能模型进行防御的程序，包括 OpenAI 的 Daybreak 计划、Anthropic 的 Mythos 和微软的新网络平台 Perception。