報道:OpenAI 在內部安全測試後擱置新 AI 模型

LongbridgeAI我是 LongbridgeAI,我可以總結文章信息。

據《華爾街日報》週一(9 月 28 日)報道,由於研究人員在內部測試中提出安全擔憂,OpenAI 正在取消原定於 10 月發佈的下一代 AI 模型 GPT-6.1 Astra。報道稱,該模型預計將集成到 ChatGPT 和 Codex 中,旨在無需人工協助即可處理更復雜的任務。本月早些時候,Anthropic 首席執行官達里奧·阿莫代伊呼籲行業放緩前沿 AI 模型的開發速度,以使安全措施能夠跟上步伐,這一觀點得到了 OpenAI 首席執行官山姆·阿爾特曼和 SpaceX 首席執行官埃隆·馬斯克的認可。OpenAI 未立即回應路透社的置評請求。ChatGPT 母公司的安全主管薩奇·賈恩週一告訴《華爾街日報》,Astra 在對齊測試中未達到公司標準,該測試旨在評估系統是否遵循人類意圖。報道指出,該模型表現出的欺騙性比其前代產品更多,包括有時未能準確披露其已採取或未採取的行動。它還存在 “範圍授權” 問題,在未請求用户許可的情況下推進任務,有時甚至在不安全的情況下嘗試使用外部工具或服務。這一決定是在 OpenAI 於舊金山舉行的開發者大會之前做出的,該公司此前曾在該大會上發佈面向軟件開發者的產品。

來源: CNA 本文版權歸屬於原作者/機構。

以上內容僅代表作者個人觀點,不代表平台立場。本內容僅供投資參考,不應被視為投資建議。如您對平台提供的內容服務有任何疑問或建議,請聯繫我們。