--- title: "新聞簡報：為解決 AI 安全問題而出現的保障措施" description: "人工智能和機器學習工具的崛起需要加強安全措施。首席信息安全官（CISO）和安全團隊被敦促優化對人工智能系統的保護，特別是在 2025 年黑帽大會上突出顯示的漏洞背景下。美國國家標準與技術研究院（NIST）正在尋求公眾意見，以制定人工智能的安全控制措施，而來自 Infosys 的報告顯示，95% 的高管在企業人工智能方面面臨問題，導致了顯著的財務損失。公司被鼓勵採用負責任的人工智能實踐以降低風險，專" type: "news" locale: "zh-HK" url: "https://longbridge.com/zh-HK/news/254219912.md" published_at: "2025-08-22T17:49:46.000Z" --- # 新聞簡報：為解決 AI 安全問題而出現的保障措施 > 人工智能和機器學習工具的崛起需要加強安全措施。首席信息安全官（CISO）和安全團隊被敦促優化對人工智能系統的保護，特別是在 2025 年黑帽大會上突出顯示的漏洞背景下。美國國家標準與技術研究院（NIST）正在尋求公眾意見，以制定人工智能的安全控制措施，而來自 Infosys 的報告顯示，95% 的高管在企業人工智能方面面臨問題，導致了顯著的財務損失。公司被鼓勵採用負責任的人工智能實踐以降低風險，專家強調在人工智能輔助編碼中人類監督的重要性，以確保安全 企業對人工智能和機器學習工具的採用正在迅速增長。全球的首席信息安全官、安全團隊和聯邦機構必須迅速行動，以優化人工智能工具的安全性，並確定保護人工智能模型和業務關鍵數據的最佳方法。 代理人工智能也成為了一個主要的安全痛點，過於頻繁地將王國的鑰匙交出，正如在 2025 年黑帽大會上展示的 零點擊漏洞 所證明的，只需用户的電子郵件地址即可接管一個人工智能代理。 與此同時，應用開發人員正在採用氛圍編碼——使用人工智能工具來輔助代碼生成——以加快開發速度，但他們並不總是完全理解其對安全性的影響。根據 VeraCode 的《2025 年生成式人工智能代碼安全報告》，人工智能生成的代碼在 45% 的測試任務中引入了安全漏洞。 本週的特色文章集中在識別改進人工智能工具安全性的方法論，以及通過負責任的人工智能在聯邦和企業層面更好地保護數據。 ## NIST 尋求公眾對如何保護人工智能系統的意見 NIST 概述了基於其特別出版物 800-53《信息系統和組織的安全與隱私控制》開發人工智能系統安全控制覆蓋層的計劃。該聯邦機構為社區反饋創建了一個 Slack 頻道，以便於開發過程中的意見交流。 該倡議旨在幫助組織在實施人工智能的同時，維護數據的完整性和機密性，涵蓋五個使用案例： 1. 適應和使用生成式人工智能——助手/大型語言模型（LLM）。 2. 使用和微調預測性人工智能。 3. 使用人工智能代理系統——單一代理。 4. 使用人工智能代理系統——多代理。 5. 針對人工智能開發者的安全控制。 該指導方針解決了對人工智能安全漏洞日益增長的擔憂。例如，本月在 2025 年黑帽大會上，研究人員展示了 惡意黑客如何武器化人工智能代理 進行攻擊，並使用 LLMs 自主發起網絡攻擊。 閲讀 David Jones 在 Cybersecurity Dive 上的完整故事 *.* ## 商業高管關注負責任的人工智能以降低風險、推動增長 IT 諮詢公司 Infosys 的一份報告發現，公司正在轉向負責任的人工智能使用，以降低風險並促進業務增長。 在對 1500 名高級高管的調查中，95% 的人表示他們經歷過與企業人工智能使用相關的至少一次 “問題事件”，在兩年內平均報告損失為 80 萬美元。 儘管如此，超過四分之三的受訪者表示，人工智能將帶來積極的商業成果，儘管 30% 的人承認他們在負責任的人工智能使用上投資不足約 30%。 雖然組織對負責任的人工智能實踐的定義各不相同，但它們包括在人工智能治理工作中融入公平性、透明度、問責制、隱私和安全。 閲讀 Lindsey Wilkinson 在 Cybersecurity Dive 上的完整故事 *.* ## 人工智能輔助編碼：在創新與安全之間取得平衡 氛圍編碼目前在良性和 惡意開發 中都很流行。行業專家，如應用安全供應商 Snyk 的首席技術官 Danny Allan，確認開發團隊廣泛採用人工智能編碼工具。“我還沒有遇到一個不使用人工智能編碼工具的客户，” 他説。 允許人工智能輔助代碼生成的組織必須考慮如何安全地進行此操作。專家分享了以下關鍵步驟，以減輕氛圍編碼的安全風險： - 保持人類參與，以驗證生成的代碼是安全的。人工智能尚未準備好獨立接管編碼。 - 從一開始就使用專業工具實施安全性。如果生成的代碼存在漏洞，快速編碼就沒有意義。 - 通過對安全代碼生成進行模型訓練，並使用保護措施來防止人工智能輔助代碼產生弱點，從而考慮人工智能的不可預測性。 閲讀 Alexander Culafi 在 Dark Reading 上的完整故事 *.* **編輯注：** *一位編輯使用人工智能工具來輔助生成此新聞簡報。我們的專家編輯在發佈之前始終審查和編輯內容。* *Kyle Johnson 是 Informa TechTarget 的 SearchSecurity 網站的技術編輯。* ### Related Stocks - [AI.US - C3.ai](https://longbridge.com/zh-HK/quote/AI.US.md) ## Related News & Research | Title | Description | URL | |-------|-------------|-----| | C3.ai Stock Surges Nearly 16% In Wednesday Pre-Market: What's Going On? | C3.ai Inc. (NYSE: AI) stock surged 15.87% in pre-market trading on Wednesday amid reports of a potential merger with Aut | [Link](https://longbridge.com/zh-HK/news/273982861.md) | | Nextech3D.ai Signs Agreement to Offer F-35 Flight Simulation Experiences Through Krafty Lab Platform | Nextech3D.ai Corporation has signed an agreement to provide advanced flight simulation experiences, including F-35 simul | [Link](https://longbridge.com/zh-HK/news/274812539.md) | | Norwegian Cruise Line stock is rising. A big activist reportedly has taken a stake. | Norwegian Cruise Line's stock rose 6% in premarket trading after reports that activist investor Elliott has acquired ove | [Link](https://longbridge.com/zh-HK/news/276111879.md) | | Blackstone-backed Liftoff Mobile files to withdraw US listing | Feb 17 (Reuters) - Blackstone-backed (BX.N) Liftoff Mobile has filed to withdraw its initial public offering plans in th | [Link](https://longbridge.com/zh-HK/news/276118530.md) | | Activist investor Jana Partners builds stake in Fiserv, WSJ reports | Feb 17 (Reuters) - Activist investor Jana Partners has built a stake in Fiservand is pressing the payments company to pu | [Link](https://longbridge.com/zh-HK/news/276121779.md) | --- > **免責聲明**：本文內容僅供參考，不構成任何投資建議。