OpenAI、Anthropic、谷歌以及其他 100 家公司呼籲採取措施以防禦流氓 AI

超過一百家科技公司——包括 OpenAI、Anthropic、谷歌和微軟——簽署了一封公開信，呼籲私營和公共部門共同努力，保護自己免受與人工智能相關的網絡威脅。

這封信還得到了 Crowdstrike、Okta 和 Fortinet 等知名網絡公司，以及一些知名金融機構和互聯網基礎設施公司的簽署，呼籲採用新的網絡防禦形式，同時鼓勵 “地方、國家和國際層面” 的政府在安全方面進行合作。

信中指出：“在未來幾個月，人工智能驅動的網絡攻擊將變得更加普遍和複雜，因為全球的模型變得越來越強大。我們社區所依賴的公司和公共服務——從醫院到水處理廠，再到支撐互聯網的基礎設施——都面臨風險。”

人工智能對傳統網絡安全防禦構成的問題，最近因一系列奇怪事件而受到關注，這些事件中，人工智能代理攻擊了公司。

Hugging Face 事件——OpenAI 的一名代理自主突破其沙盒環境並攻擊了這家科技公司——之後又出現了其他報告的入侵事件，這些事件涉及由其他人工智能公司（包括 Anthropic 和 Meta）開發的代理。這些事件加強了網絡安全領域已經發生根本性變化的論點，並且需要大膽的新商業解決方案來減輕這些威脅。

信中進一步建議動員 “集體響應”，在這種響應中，形成 “新的合作伙伴關係”，以提高安全標準並尋找應對新興網絡威脅的新解決方案。

簽署該信的幾家人工智能公司仍在積極開發越來越先進的人工智能模型，突顯了它們的矛盾立場。同時，它們還提供使用前沿人工智能模型進行防禦的程序，包括 OpenAI 的 Daybreak 計劃、Anthropic 的 Mythos 和微軟的新網絡平台 Perception。