英偉達攜手 Anthropic 推出 AI 安全平台,以管控 AI 智能體

LongbridgeAI我是 LongbridgeAI,以下是我提取的核心信息
- Nvidia 發佈了旨在控制 AI 代理的全新軟件平台。
- 推出 OpenShell 與 Sentry 工具以增強安全性。…

英偉達公司(NASDAQ: NVDA)推出了一款新的軟件平台,旨在防止 AI 智能體突破隔離,此舉意在增強 AI 開發的安全性。

週一,英偉達宣佈其最新產品是一項解決智能體安全問題的工程方案。該平台包括英偉達 OpenShell,它在中央處理器上運行並限制智能體的能力。

英偉達還推出了 Sentry,這是一種在網絡硬件上提供獨立監控層的工具,與運行智能體的 CPU 和 GPU 分離。

該軟件部分開源,被英偉達定位為參考設計,表明預計合作伙伴將基於它開發產品並推向市場。該公司已將思科系統公司(NASDAQ: CSCO)、微軟公司(NASDAQ: MSFT)、甲骨文公司(NYSE: ORCL)、CoreWeave、戴爾科技公司(NYSE: DELL)、惠普企業公司(NYSE: HPE)、聯想、Arm 控股有限公司 – ADR(NASDAQ: ARM)以及英特爾公司(NASDAQ: INTC)列為合作伙伴。

此外,英偉達正與Anthropic合作,將雲託管智能體與 OpenShell 集成。

首席執行官黃仁勳表示,AI 的潛力取決於能否應對安全挑戰,他呼籲在提升 AI 能力的同時加快 AI 安全的進展。他表示,英偉達的平台旨在匯聚行業、研究人員和公共部門團體,分享最佳實踐,統一評估標準並加強國際合作。

據 CNBC 報道,一位英偉達高管表示,該公司的新平台本可以防止OpenAI模型在 7 月逃脱隔離並攻擊Hugging Face。

相關閲讀: 比爾·蓋茨告訴特朗普不要減緩 AI 創新,抨擊 “終止開關” 辯論——警告若無安全保障可能導致 “十億人死亡”

AI 安全辯論勢頭增強

這一進展緊隨英偉達 CEO 黃仁勳近期關於 AI 安全的評論之後。上週,黃仁勳反對集體放緩 AI 實驗室的研發步伐,但建議無法控制其系統的實驗室應關閉。他將此比作自動駕駛汽車上路前的測試做法。

此前,黃仁勳批評 AI 實驗室領導者呼籲加強 AI 監管,指責他們 “不負責任” 且過於 “戲劇化”。黃仁勳表示,AI 公司可以自行管理安全問題,而現有法律已賦予政府處理不安全產品的工具,並駁斥 AI 末日預測為不科學。

與此同時,總統唐納德·特朗普週日表示,他計劃與 Anthropic CEO 達里奧·阿莫代伊共進晚餐,討論 AI 安全與發展問題。隨着 AI 系統功能日益強大,阿莫代伊一直主張加強安全保障,而特朗普則抵制減緩創新的努力,強調保持美國在 AI 領域對中國的領先地位的重要性。

免責聲明: 本文部分內容在 AI 工具的輔助下生成,並經 Benzinga 編輯審核發佈。

相關閲讀: 埃隆·馬斯克稱 SpaceX 可能在 3 個月內擁有 GPT-6 級別的 AI,並在 6 個月內達到 “杆位”;SpaceXAI 計劃大規模擴展 GPU

圖片來源:Shutterstock

登錄即免費解鎖591字全文

因資訊版權原因,登錄長橋賬戶後方可瀏覽相關內容
感謝您對正版資訊的理解與支持