<p>企業對人工智能和機器學習工具的採用正在迅速增長。全球的首席信息安全官、安全團隊和聯邦機構必須迅速行動，以優化人工智能工具的安全性，並確定保護人工智能模型和業務關鍵數據的最佳方法。</p>
<p>代理人工智能也成為了一個主要的安全痛點，過於頻繁地將王國的鑰匙交出，正如在 2025 年黑帽大會上展示的 零點擊漏洞 所證明的，只需用户的電子郵件地址即可接管一個人工智能代理。</p>
<p>與此同時，應用開發人員正在採用氛圍編碼——使用人工智能工具來輔助代碼生成——以加快開發速度，但他們並不總是完全理解其對安全性的影響。根據 VeraCode 的《2025 年生成式人工智能代碼安全報告》，人工智能生成的代碼在 45% 的測試任務中引入了安全漏洞。</p>
<p>本週的特色文章集中在識別改進人工智能工具安全性的方法論，以及通過負責任的人工智能在聯邦和企業層面更好地保護數據。</p>
<h2>NIST 尋求公眾對如何保護人工智能系統的意見</h2>
<p>NIST 概述了基於其特別出版物 800-53《信息系統和組織的安全與隱私控制》開發人工智能系統安全控制覆蓋層的計劃。該聯邦機構為社區反饋創建了一個 Slack 頻道，以便於開發過程中的意見交流。</p>
<p>該倡議旨在幫助組織在實施人工智能的同時，維護數據的完整性和機密性，涵蓋五個使用案例：</p>
<ol>
<li>適應和使用生成式人工智能——助手/大型語言模型（LLM）。</li>
<li>使用和微調預測性人工智能。</li>
<li>使用人工智能代理系統——單一代理。</li>
<li>使用人工智能代理系統——多代理。</li>
<li>針對人工智能開發者的安全控制。</li>
</ol>
<p>該指導方針解決了對人工智能安全漏洞日益增長的擔憂。例如，本月在 2025 年黑帽大會上，研究人員展示了 惡意黑客如何武器化人工智能代理 進行攻擊，並使用 LLMs 自主發起網絡攻擊。</p>
<p>閲讀 David Jones 在 Cybersecurity Dive 上的完整故事 <em>.</em></p>
<h2>商業高管關注負責任的人工智能以降低風險、推動增長</h2>
<p>IT 諮詢公司 Infosys 的一份報告發現，公司正在轉向負責任的人工智能使用，以降低風險並促進業務增長。</p>
<p>在對 1500 名高級高管的調查中，95% 的人表示他們經歷過與企業人工智能使用相關的至少一次 “問題事件”，在兩年內平均報告損失為 80 萬美元。</p>
<p>儘管如此，超過四分之三的受訪者表示，人工智能將帶來積極的商業成果，儘管 30% 的人承認他們在負責任的人工智能使用上投資不足約 30%。</p>
<p>雖然組織對負責任的人工智能實踐的定義各不相同，但它們包括在人工智能治理工作中融入公平性、透明度、問責制、隱私和安全。</p>
<p>閲讀 Lindsey Wilkinson 在 Cybersecurity Dive 上的完整故事 <em>.</em></p>
<h2>人工智能輔助編碼：在創新與安全之間取得平衡</h2>
<p>氛圍編碼目前在良性和 惡意開發 中都很流行。行業專家，如應用安全供應商 Snyk 的首席技術官 Danny Allan，確認開發團隊廣泛採用人工智能編碼工具。“我還沒有遇到一個不使用人工智能編碼工具的客户，” 他説。</p>
<p>允許人工智能輔助代碼生成的組織必須考慮如何安全地進行此操作。專家分享了以下關鍵步驟，以減輕氛圍編碼的安全風險：</p>
<ul>
<li>保持人類參與，以驗證生成的代碼是安全的。人工智能尚未準備好獨立接管編碼。</li>
<li>從一開始就使用專業工具實施安全性。如果生成的代碼存在漏洞，快速編碼就沒有意義。</li>
<li>通過對安全代碼生成進行模型訓練，並使用保護措施來防止人工智能輔助代碼產生弱點，從而考慮人工智能的不可預測性。</li>
</ul>
<p>閲讀 Alexander Culafi 在 Dark Reading 上的完整故事 <em>.</em></p>
<p><strong>編輯注：</strong> <em>一位編輯使用人工智能工具來輔助生成此新聞簡報。我們的專家編輯在發佈之前始終審查和編輯內容。</em></p>
<p><em>Kyle Johnson 是 Informa TechTarget 的 SearchSecurity 網站的技術編輯。</em></p>

<p>人工智能和機器學習工具的崛起需要加強安全措施。首席信息安全官（CISO）和安全團隊被敦促優化對人工智能系統的保護，特別是在 2025 年黑帽大會上突出顯示的漏洞背景下。美國國家標準與技術研究院（NIST）正在尋求公眾意見，以制定人工智能的安全控制措施，而來自 Infosys 的報告顯示，95% 的高管在企業人工智能方面面臨問題，導致了顯著的財務損失。公司被鼓勵採用負責任的人工智能實踐以降低風險，專家強調在人工智能輔助編碼中人類監督的重要性，以確保安全</p>

<p>Enterprise adoption of AI and machine learning tools is growing by the second. CISOs, security teams and federal agencies worldwide must work quickly to optimize security for AI tools and determine the best methods of keeping AI models and business-critical data safe.</p>
<div class="lb-trans"><p>企業對人工智能和機器學習工具的採用正在迅速增長。全球的首席信息安全官、安全團隊和聯邦機構必須迅速行動，以優化人工智能工具的安全性，並確定保護人工智能模型和業務關鍵數據的最佳方法。</p>
</div><p>Agentic AI has become a major security pain point, too often handing out the keys to the kingdom, as evidenced in a zero-click exploit demonstrated at Black Hat USA 2025 that requires only a user's email address to overtake an AI agent.</p>
<div class="lb-trans"><p>代理人工智能也成為了一個主要的安全痛點，過於頻繁地將王國的鑰匙交出，正如在 2025 年黑帽大會上展示的 零點擊漏洞 所證明的，只需用户的電子郵件地址即可接管一個人工智能代理。</p>
</div><p>Meanwhile, application developers are adopting vibe coding -- using AI tools to assist with code generation -- to speed up development, yet they don't always fully understand its effects on security. According to VeraCode's &#34;2025 GenAI Code Security Report,&#34; AI-generated code introduced security vulnerabilities in 45% of tested tasks.</p>
<div class="lb-trans"><p>與此同時，應用開發人員正在採用氛圍編碼——使用人工智能工具來輔助代碼生成——以加快開發速度，但他們並不總是完全理解其對安全性的影響。根據 VeraCode 的《2025 年生成式人工智能代碼安全報告》，人工智能生成的代碼在 45% 的測試任務中引入了安全漏洞。</p>
</div><p>This week's featured articles focus on identifying methodologies to improve security for AI tools and better protect data through responsible AI at the federal and enterprise levels.</p>
<div class="lb-trans"><p>本週的特色文章集中在識別改進人工智能工具安全性的方法論，以及通過負責任的人工智能在聯邦和企業層面更好地保護數據。</p>
</div><h2>NIST seeks public input on how to secure AI systems</h2>
<div class="lb-trans"><h2>NIST 尋求公眾對如何保護人工智能系統的意見</h2>
</div><p>NIST outlined plans to develop security control overlays for AI systems based on its Special Publication 800-53: Security and Privacy Controls for Information Systems and Organizations. The federal agency created a Slack channel for community feedback on the development process.</p>
<div class="lb-trans"><p>NIST 概述了基於其特別出版物 800-53《信息系統和組織的安全與隱私控制》開發人工智能系統安全控制覆蓋層的計劃。該聯邦機構為社區反饋創建了一個 Slack 頻道，以便於開發過程中的意見交流。</p>
</div><p>The initiative aims to help organizations implement AI while maintaining data integrity and confidentiality across five use cases:</p>
<div class="lb-trans"><p>該倡議旨在幫助組織在實施人工智能的同時，維護數據的完整性和機密性，涵蓋五個使用案例：</p>
</div><ol>
<li>Adapting and using generative AI -- assistant/large language model (LLM).</li>
<li>Using and fine-tuning predictive AI.</li>
<li>Using AI agent systems -- single agent.</li>
<li>Using AI agent systems -- multiagent.</li>
<li>Security controls for AI developers.</li>
</ol>
<div class="lb-trans"><ol>
<li>適應和使用生成式人工智能——助手/大型語言模型（LLM）。</li>
<li>使用和微調預測性人工智能。</li>
<li>使用人工智能代理系統——單一代理。</li>
<li>使用人工智能代理系統——多代理。</li>
<li>針對人工智能開發者的安全控制。</li>
</ol>
</div><p>The guidance addresses growing concerns about AI security vulnerabilities. For example, researchers at Black Hat USA 2025 this month demonstrated how malicious hackers weaponize AI agents for attacks and use LLMs to launch cyberattacks autonomously.</p>
<div class="lb-trans"><p>該指導方針解決了對人工智能安全漏洞日益增長的擔憂。例如，本月在 2025 年黑帽大會上，研究人員展示了 惡意黑客如何武器化人工智能代理 進行攻擊，並使用 LLMs 自主發起網絡攻擊。</p>
</div><p>Read the full story by David Jones on Cybersecurity Dive <em>.</em></p>
<div class="lb-trans"><p>閲讀 David Jones 在 Cybersecurity Dive 上的完整故事 <em>.</em></p>
</div><h2>Business execs eye responsible AI to reduce risks, drive growth</h2>
<div class="lb-trans"><h2>商業高管關注負責任的人工智能以降低風險、推動增長</h2>
</div><p>A report from IT consulting firm Infosys found that companies are turning to responsible AI use to mitigate risks and encourage business growth.</p>
<div class="lb-trans"><p>IT 諮詢公司 Infosys 的一份報告發現，公司正在轉向負責任的人工智能使用，以降低風險並促進業務增長。</p>
</div><p>In a survey of 1,500 senior executives, 95% said they experienced at least one &#34;problematic incident&#34; related to enterprise AI use, with average reported losses of $800,000 due to these incidents over a two-year span.</p>
<div class="lb-trans"><p>在對 1500 名高級高管的調查中，95% 的人表示他們經歷過與企業人工智能使用相關的至少一次 “問題事件”，在兩年內平均報告損失為 80 萬美元。</p>
</div><p>Still, more than three-quarters of respondents said AI will result in positive business outcomes, though 30% admit they are underinvesting in responsible AI use by about 30%.</p>
<div class="lb-trans"><p>儘管如此，超過四分之三的受訪者表示，人工智能將帶來積極的商業成果，儘管 30% 的人承認他們在負責任的人工智能使用上投資不足約 30%。</p>
</div><p>While organizations' definitions of responsible AI practices differ, they include incorporating fairness, transparency, accountability, privacy and security into AI governance efforts.</p>
<div class="lb-trans"><p>雖然組織對負責任的人工智能實踐的定義各不相同，但它們包括在人工智能治理工作中融入公平性、透明度、問責制、隱私和安全。</p>
</div><p>Read the full story by Lindsey Wilkinson on Cybersecurity Dive <em>.</em></p>
<div class="lb-trans"><p>閲讀 Lindsey Wilkinson 在 Cybersecurity Dive 上的完整故事 <em>.</em></p>
</div><h2>AI-assisted coding: Balancing innovation with security</h2>
<div class="lb-trans"><h2>人工智能輔助編碼：在創新與安全之間取得平衡</h2>
</div><p>Vibe coding is in vogue right now for both good and malicious development. Industry experts, such as Danny Allan, CTO at application security vendor Snyk, have confirmed widespread adoption of AI coding tools across development teams. &#34;I have not talked to a customer that's not using AI coding tools,&#34; he said.</p>
<div class="lb-trans"><p>氛圍編碼目前在良性和 惡意開發 中都很流行。行業專家，如應用安全供應商 Snyk 的首席技術官 Danny Allan，確認開發團隊廣泛採用人工智能編碼工具。“我還沒有遇到一個不使用人工智能編碼工具的客户，” 他説。</p>
</div><p>Organizations that permit AI-assisted code generation must consider how to do so securely. Experts shared the following key steps to mitigate vibe coding security risks:</p>
<div class="lb-trans"><p>允許人工智能輔助代碼生成的組織必須考慮如何安全地進行此操作。專家分享了以下關鍵步驟，以減輕氛圍編碼的安全風險：</p>
</div><ul>
<li>Keep humans involved to verify that generated code is secure. AI isn't ready to take over coding independently.</li>
<li>Implement security from inception using specialized tools. Being able to code faster isn't useful if the code generated has vulnerabilities.</li>
<li>Account for AI's unpredictability by training models on secure code generation and using guardrails to keep AI-assisted code from creating weaknesses.</li>
</ul>
<div class="lb-trans"><ul>
<li>保持人類參與，以驗證生成的代碼是安全的。人工智能尚未準備好獨立接管編碼。</li>
<li>從一開始就使用專業工具實施安全性。如果生成的代碼存在漏洞，快速編碼就沒有意義。</li>
<li>通過對安全代碼生成進行模型訓練，並使用保護措施來防止人工智能輔助代碼產生弱點，從而考慮人工智能的不可預測性。</li>
</ul>
</div><p>Read the full story by Alexander Culafi on Dark Reading <em>.</em></p>
<div class="lb-trans"><p>閲讀 Alexander Culafi 在 Dark Reading 上的完整故事 <em>.</em></p>
</div><p><strong>Editor's note:</strong> <em>An editor used AI tools to aid in the generation of this news brief. Our expert editors always review and edit content before publishing.</em></p>
<div class="lb-trans"><p><strong>編輯注：</strong> <em>一位編輯使用人工智能工具來輔助生成此新聞簡報。我們的專家編輯在發佈之前始終審查和編輯內容。</em></p>
</div><p><em>Kyle Johnson is technology editor for Informa TechTarget's SearchSecurity site.</em></p>
<div class="lb-trans"><p><em>Kyle Johnson 是 Informa TechTarget 的 SearchSecurity 網站的技術編輯。</em></p>
</div>

News brief: Safeguards emerge to address security for AI

- 企業對 AI 和機器學習工具的採用正在迅速增長。  
- 根據 VeraCode 報告，45% 的 AI 生成代碼引入了安全漏洞。  
- NIST 正在尋求公眾意見以增強 AI 系統的安全性。  

新聞簡報：為解決 AI 安全問題而出現的保障措施