<p>企业对人工智能和机器学习工具的采用正在迅速增长。全球的首席信息安全官、安全团队和联邦机构必须迅速行动，以优化人工智能工具的安全性，并确定保护人工智能模型和业务关键数据的最佳方法。</p>
<p>代理人工智能也成为了一个主要的安全痛点，过于频繁地将王国的钥匙交出，正如在 2025 年黑帽大会上展示的 零点击漏洞 所证明的，只需用户的电子邮件地址即可接管一个人工智能代理。</p>
<p>与此同时，应用开发人员正在采用氛围编码——使用人工智能工具来辅助代码生成——以加快开发速度，但他们并不总是完全理解其对安全性的影响。根据 VeraCode 的《2025 年生成式人工智能代码安全报告》，人工智能生成的代码在 45% 的测试任务中引入了安全漏洞。</p>
<p>本周的特色文章集中在识别改进人工智能工具安全性的方法论，以及通过负责任的人工智能在联邦和企业层面更好地保护数据。</p>
<h2>NIST 寻求公众对如何保护人工智能系统的意见</h2>
<p>NIST 概述了基于其特别出版物 800-53《信息系统和组织的安全与隐私控制》开发人工智能系统安全控制覆盖层的计划。该联邦机构为社区反馈创建了一个 Slack 频道，以便于开发过程中的意见交流。</p>
<p>该倡议旨在帮助组织在实施人工智能的同时，维护数据的完整性和机密性，涵盖五个使用案例：</p>
<ol>
<li>适应和使用生成式人工智能——助手/大型语言模型（LLM）。</li>
<li>使用和微调预测性人工智能。</li>
<li>使用人工智能代理系统——单一代理。</li>
<li>使用人工智能代理系统——多代理。</li>
<li>针对人工智能开发者的安全控制。</li>
</ol>
<p>该指导方针解决了对人工智能安全漏洞日益增长的担忧。例如，本月在 2025 年黑帽大会上，研究人员展示了 恶意黑客如何武器化人工智能代理 进行攻击，并使用 LLMs 自主发起网络攻击。</p>
<p>阅读 David Jones 在 Cybersecurity Dive 上的完整故事 <em>.</em></p>
<h2>商业高管关注负责任的人工智能以降低风险、推动增长</h2>
<p>IT 咨询公司 Infosys 的一份报告发现，公司正在转向负责任的人工智能使用，以降低风险并促进业务增长。</p>
<p>在对 1500 名高级高管的调查中，95% 的人表示他们经历过与企业人工智能使用相关的至少一次 “问题事件”，在两年内平均报告损失为 80 万美元。</p>
<p>尽管如此，超过四分之三的受访者表示，人工智能将带来积极的商业成果，尽管 30% 的人承认他们在负责任的人工智能使用上投资不足约 30%。</p>
<p>虽然组织对负责任的人工智能实践的定义各不相同，但它们包括在人工智能治理工作中融入公平性、透明度、问责制、隐私和安全。</p>
<p>阅读 Lindsey Wilkinson 在 Cybersecurity Dive 上的完整故事 <em>.</em></p>
<h2>人工智能辅助编码：在创新与安全之间取得平衡</h2>
<p>氛围编码目前在良性和 恶意开发 中都很流行。行业专家，如应用安全供应商 Snyk 的首席技术官 Danny Allan，确认开发团队广泛采用人工智能编码工具。“我还没有遇到一个不使用人工智能编码工具的客户，” 他说。</p>
<p>允许人工智能辅助代码生成的组织必须考虑如何安全地进行此操作。专家分享了以下关键步骤，以减轻氛围编码的安全风险：</p>
<ul>
<li>保持人类参与，以验证生成的代码是安全的。人工智能尚未准备好独立接管编码。</li>
<li>从一开始就使用专业工具实施安全性。如果生成的代码存在漏洞，快速编码就没有意义。</li>
<li>通过对安全代码生成进行模型训练，并使用保护措施来防止人工智能辅助代码产生弱点，从而考虑人工智能的不可预测性。</li>
</ul>
<p>阅读 Alexander Culafi 在 Dark Reading 上的完整故事 <em>.</em></p>
<p><strong>编辑注：</strong> <em>一位编辑使用人工智能工具来辅助生成此新闻简报。我们的专家编辑在发布之前始终审查和编辑内容。</em></p>
<p><em>Kyle Johnson 是 Informa TechTarget 的 SearchSecurity 网站的技术编辑。</em></p>

<p>人工智能和机器学习工具的崛起需要加强安全措施。首席信息安全官（CISO）和安全团队被敦促优化对人工智能系统的保护，特别是在 2025 年黑帽大会上突出显示的漏洞背景下。美国国家标准与技术研究院（NIST）正在寻求公众意见，以制定人工智能的安全控制措施，而来自 Infosys 的报告显示，95% 的高管在企业人工智能方面面临问题，导致了显著的财务损失。公司被鼓励采用负责任的人工智能实践以降低风险，专家强调在人工智能辅助编码中人类监督的重要性，以确保安全</p>

<p>Enterprise adoption of AI and machine learning tools is growing by the second. CISOs, security teams and federal agencies worldwide must work quickly to optimize security for AI tools and determine the best methods of keeping AI models and business-critical data safe.</p>
<div class="lb-trans"><p>企业对人工智能和机器学习工具的采用正在迅速增长。全球的首席信息安全官、安全团队和联邦机构必须迅速行动，以优化人工智能工具的安全性，并确定保护人工智能模型和业务关键数据的最佳方法。</p>
</div><p>Agentic AI has become a major security pain point, too often handing out the keys to the kingdom, as evidenced in a zero-click exploit demonstrated at Black Hat USA 2025 that requires only a user's email address to overtake an AI agent.</p>
<div class="lb-trans"><p>代理人工智能也成为了一个主要的安全痛点，过于频繁地将王国的钥匙交出，正如在 2025 年黑帽大会上展示的 零点击漏洞 所证明的，只需用户的电子邮件地址即可接管一个人工智能代理。</p>
</div><p>Meanwhile, application developers are adopting vibe coding -- using AI tools to assist with code generation -- to speed up development, yet they don't always fully understand its effects on security. According to VeraCode's &#34;2025 GenAI Code Security Report,&#34; AI-generated code introduced security vulnerabilities in 45% of tested tasks.</p>
<div class="lb-trans"><p>与此同时，应用开发人员正在采用氛围编码——使用人工智能工具来辅助代码生成——以加快开发速度，但他们并不总是完全理解其对安全性的影响。根据 VeraCode 的《2025 年生成式人工智能代码安全报告》，人工智能生成的代码在 45% 的测试任务中引入了安全漏洞。</p>
</div><p>This week's featured articles focus on identifying methodologies to improve security for AI tools and better protect data through responsible AI at the federal and enterprise levels.</p>
<div class="lb-trans"><p>本周的特色文章集中在识别改进人工智能工具安全性的方法论，以及通过负责任的人工智能在联邦和企业层面更好地保护数据。</p>
</div><h2>NIST seeks public input on how to secure AI systems</h2>
<div class="lb-trans"><h2>NIST 寻求公众对如何保护人工智能系统的意见</h2>
</div><p>NIST outlined plans to develop security control overlays for AI systems based on its Special Publication 800-53: Security and Privacy Controls for Information Systems and Organizations. The federal agency created a Slack channel for community feedback on the development process.</p>
<div class="lb-trans"><p>NIST 概述了基于其特别出版物 800-53《信息系统和组织的安全与隐私控制》开发人工智能系统安全控制覆盖层的计划。该联邦机构为社区反馈创建了一个 Slack 频道，以便于开发过程中的意见交流。</p>
</div><p>The initiative aims to help organizations implement AI while maintaining data integrity and confidentiality across five use cases:</p>
<div class="lb-trans"><p>该倡议旨在帮助组织在实施人工智能的同时，维护数据的完整性和机密性，涵盖五个使用案例：</p>
</div><ol>
<li>Adapting and using generative AI -- assistant/large language model (LLM).</li>
<li>Using and fine-tuning predictive AI.</li>
<li>Using AI agent systems -- single agent.</li>
<li>Using AI agent systems -- multiagent.</li>
<li>Security controls for AI developers.</li>
</ol>
<div class="lb-trans"><ol>
<li>适应和使用生成式人工智能——助手/大型语言模型（LLM）。</li>
<li>使用和微调预测性人工智能。</li>
<li>使用人工智能代理系统——单一代理。</li>
<li>使用人工智能代理系统——多代理。</li>
<li>针对人工智能开发者的安全控制。</li>
</ol>
</div><p>The guidance addresses growing concerns about AI security vulnerabilities. For example, researchers at Black Hat USA 2025 this month demonstrated how malicious hackers weaponize AI agents for attacks and use LLMs to launch cyberattacks autonomously.</p>
<div class="lb-trans"><p>该指导方针解决了对人工智能安全漏洞日益增长的担忧。例如，本月在 2025 年黑帽大会上，研究人员展示了 恶意黑客如何武器化人工智能代理 进行攻击，并使用 LLMs 自主发起网络攻击。</p>
</div><p>Read the full story by David Jones on Cybersecurity Dive <em>.</em></p>
<div class="lb-trans"><p>阅读 David Jones 在 Cybersecurity Dive 上的完整故事 <em>.</em></p>
</div><h2>Business execs eye responsible AI to reduce risks, drive growth</h2>
<div class="lb-trans"><h2>商业高管关注负责任的人工智能以降低风险、推动增长</h2>
</div><p>A report from IT consulting firm Infosys found that companies are turning to responsible AI use to mitigate risks and encourage business growth.</p>
<div class="lb-trans"><p>IT 咨询公司 Infosys 的一份报告发现，公司正在转向负责任的人工智能使用，以降低风险并促进业务增长。</p>
</div><p>In a survey of 1,500 senior executives, 95% said they experienced at least one &#34;problematic incident&#34; related to enterprise AI use, with average reported losses of $800,000 due to these incidents over a two-year span.</p>
<div class="lb-trans"><p>在对 1500 名高级高管的调查中，95% 的人表示他们经历过与企业人工智能使用相关的至少一次 “问题事件”，在两年内平均报告损失为 80 万美元。</p>
</div><p>Still, more than three-quarters of respondents said AI will result in positive business outcomes, though 30% admit they are underinvesting in responsible AI use by about 30%.</p>
<div class="lb-trans"><p>尽管如此，超过四分之三的受访者表示，人工智能将带来积极的商业成果，尽管 30% 的人承认他们在负责任的人工智能使用上投资不足约 30%。</p>
</div><p>While organizations' definitions of responsible AI practices differ, they include incorporating fairness, transparency, accountability, privacy and security into AI governance efforts.</p>
<div class="lb-trans"><p>虽然组织对负责任的人工智能实践的定义各不相同，但它们包括在人工智能治理工作中融入公平性、透明度、问责制、隐私和安全。</p>
</div><p>Read the full story by Lindsey Wilkinson on Cybersecurity Dive <em>.</em></p>
<div class="lb-trans"><p>阅读 Lindsey Wilkinson 在 Cybersecurity Dive 上的完整故事 <em>.</em></p>
</div><h2>AI-assisted coding: Balancing innovation with security</h2>
<div class="lb-trans"><h2>人工智能辅助编码：在创新与安全之间取得平衡</h2>
</div><p>Vibe coding is in vogue right now for both good and malicious development. Industry experts, such as Danny Allan, CTO at application security vendor Snyk, have confirmed widespread adoption of AI coding tools across development teams. &#34;I have not talked to a customer that's not using AI coding tools,&#34; he said.</p>
<div class="lb-trans"><p>氛围编码目前在良性和 恶意开发 中都很流行。行业专家，如应用安全供应商 Snyk 的首席技术官 Danny Allan，确认开发团队广泛采用人工智能编码工具。“我还没有遇到一个不使用人工智能编码工具的客户，” 他说。</p>
</div><p>Organizations that permit AI-assisted code generation must consider how to do so securely. Experts shared the following key steps to mitigate vibe coding security risks:</p>
<div class="lb-trans"><p>允许人工智能辅助代码生成的组织必须考虑如何安全地进行此操作。专家分享了以下关键步骤，以减轻氛围编码的安全风险：</p>
</div><ul>
<li>Keep humans involved to verify that generated code is secure. AI isn't ready to take over coding independently.</li>
<li>Implement security from inception using specialized tools. Being able to code faster isn't useful if the code generated has vulnerabilities.</li>
<li>Account for AI's unpredictability by training models on secure code generation and using guardrails to keep AI-assisted code from creating weaknesses.</li>
</ul>
<div class="lb-trans"><ul>
<li>保持人类参与，以验证生成的代码是安全的。人工智能尚未准备好独立接管编码。</li>
<li>从一开始就使用专业工具实施安全性。如果生成的代码存在漏洞，快速编码就没有意义。</li>
<li>通过对安全代码生成进行模型训练，并使用保护措施来防止人工智能辅助代码产生弱点，从而考虑人工智能的不可预测性。</li>
</ul>
</div><p>Read the full story by Alexander Culafi on Dark Reading <em>.</em></p>
<div class="lb-trans"><p>阅读 Alexander Culafi 在 Dark Reading 上的完整故事 <em>.</em></p>
</div><p><strong>Editor's note:</strong> <em>An editor used AI tools to aid in the generation of this news brief. Our expert editors always review and edit content before publishing.</em></p>
<div class="lb-trans"><p><strong>编辑注：</strong> <em>一位编辑使用人工智能工具来辅助生成此新闻简报。我们的专家编辑在发布之前始终审查和编辑内容。</em></p>
</div><p><em>Kyle Johnson is technology editor for Informa TechTarget's SearchSecurity site.</em></p>
<div class="lb-trans"><p><em>Kyle Johnson 是 Informa TechTarget 的 SearchSecurity 网站的技术编辑。</em></p>
</div>

News brief: Safeguards emerge to address security for AI

- 企业对 AI 和机器学习工具的采用正在迅速增长。  
- 根据 VeraCode 报告，45% 的 AI 生成代码引入了安全漏洞。  
- NIST 正在寻求公众意见以增强 AI 系统的安全性。  

新闻简报：为解决 AI 安全问题而出现的保障措施