---
title: "新闻简报：为解决 AI 安全问题而出现的保障措施"
description: "人工智能和机器学习工具的崛起需要加强安全措施。首席信息安全官（CISO）和安全团队被敦促优化对人工智能系统的保护，特别是在 2025 年黑帽大会上突出显示的漏洞背景下。美国国家标准与技术研究院（NIST）正在寻求公众意见，以制定人工智能的安全控制措施，而来自 Infosys 的报告显示，95% 的高管在企业人工智能方面面临问题，导致了显著的财务损失。公司被鼓励采用负责任的人工智能实践以降低风险，专"
type: "news"
locale: "zh-CN"
url: "https://longbridge.com/zh-CN/news/254219912.md"
published_at: "2025-08-22T17:49:46.000Z"
---

# 新闻简报：为解决 AI 安全问题而出现的保障措施

> 人工智能和机器学习工具的崛起需要加强安全措施。首席信息安全官（CISO）和安全团队被敦促优化对人工智能系统的保护，特别是在 2025 年黑帽大会上突出显示的漏洞背景下。美国国家标准与技术研究院（NIST）正在寻求公众意见，以制定人工智能的安全控制措施，而来自 Infosys 的报告显示，95% 的高管在企业人工智能方面面临问题，导致了显著的财务损失。公司被鼓励采用负责任的人工智能实践以降低风险，专家强调在人工智能辅助编码中人类监督的重要性，以确保安全

企业对人工智能和机器学习工具的采用正在迅速增长。全球的首席信息安全官、安全团队和联邦机构必须迅速行动，以优化人工智能工具的安全性，并确定保护人工智能模型和业务关键数据的最佳方法。

代理人工智能也成为了一个主要的安全痛点，过于频繁地将王国的钥匙交出，正如在 2025 年黑帽大会上展示的 零点击漏洞 所证明的，只需用户的电子邮件地址即可接管一个人工智能代理。

与此同时，应用开发人员正在采用氛围编码——使用人工智能工具来辅助代码生成——以加快开发速度，但他们并不总是完全理解其对安全性的影响。根据 VeraCode 的《2025 年生成式人工智能代码安全报告》，人工智能生成的代码在 45% 的测试任务中引入了安全漏洞。

本周的特色文章集中在识别改进人工智能工具安全性的方法论，以及通过负责任的人工智能在联邦和企业层面更好地保护数据。

## NIST 寻求公众对如何保护人工智能系统的意见

NIST 概述了基于其特别出版物 800-53《信息系统和组织的安全与隐私控制》开发人工智能系统安全控制覆盖层的计划。该联邦机构为社区反馈创建了一个 Slack 频道，以便于开发过程中的意见交流。

该倡议旨在帮助组织在实施人工智能的同时，维护数据的完整性和机密性，涵盖五个使用案例：

1.  适应和使用生成式人工智能——助手/大型语言模型（LLM）。
2.  使用和微调预测性人工智能。
3.  使用人工智能代理系统——单一代理。
4.  使用人工智能代理系统——多代理。
5.  针对人工智能开发者的安全控制。

该指导方针解决了对人工智能安全漏洞日益增长的担忧。例如，本月在 2025 年黑帽大会上，研究人员展示了 恶意黑客如何武器化人工智能代理 进行攻击，并使用 LLMs 自主发起网络攻击。

阅读 David Jones 在 Cybersecurity Dive 上的完整故事 *.*

## 商业高管关注负责任的人工智能以降低风险、推动增长

IT 咨询公司 Infosys 的一份报告发现，公司正在转向负责任的人工智能使用，以降低风险并促进业务增长。

在对 1500 名高级高管的调查中，95% 的人表示他们经历过与企业人工智能使用相关的至少一次 “问题事件”，在两年内平均报告损失为 80 万美元。

尽管如此，超过四分之三的受访者表示，人工智能将带来积极的商业成果，尽管 30% 的人承认他们在负责任的人工智能使用上投资不足约 30%。

虽然组织对负责任的人工智能实践的定义各不相同，但它们包括在人工智能治理工作中融入公平性、透明度、问责制、隐私和安全。

阅读 Lindsey Wilkinson 在 Cybersecurity Dive 上的完整故事 *.*

## 人工智能辅助编码：在创新与安全之间取得平衡

氛围编码目前在良性和 恶意开发 中都很流行。行业专家，如应用安全供应商 Snyk 的首席技术官 Danny Allan，确认开发团队广泛采用人工智能编码工具。“我还没有遇到一个不使用人工智能编码工具的客户，” 他说。

允许人工智能辅助代码生成的组织必须考虑如何安全地进行此操作。专家分享了以下关键步骤，以减轻氛围编码的安全风险：

-   保持人类参与，以验证生成的代码是安全的。人工智能尚未准备好独立接管编码。
-   从一开始就使用专业工具实施安全性。如果生成的代码存在漏洞，快速编码就没有意义。
-   通过对安全代码生成进行模型训练，并使用保护措施来防止人工智能辅助代码产生弱点，从而考虑人工智能的不可预测性。

阅读 Alexander Culafi 在 Dark Reading 上的完整故事 *.*

**编辑注：** *一位编辑使用人工智能工具来辅助生成此新闻简报。我们的专家编辑在发布之前始终审查和编辑内容。*

*Kyle Johnson 是 Informa TechTarget 的 SearchSecurity 网站的技术编辑。*

### Related Stocks

- [AI.US - C3.ai](https://longbridge.com/zh-CN/quote/AI.US.md)

## Related News & Research

| Title | Description | URL |
|-------|-------------|-----|
| C3.ai 的股票在周三盘前上涨近 16%：究竟发生了什么？ | C3.ai Inc.（纽约证券交易所代码：AI）股票在周三的盘前交易中上涨了 15.87%，原因是有报道称可能与 Automation Anywhere 进行合并。如果交易达成，Automation Anywhere 将收购 C3.ai 并 | [Link](https://longbridge.com/zh-CN/news/273982861.md) |
| Nextech3D.ai 签署协议，将通过 Krafty Lab 平台提供 F-35 飞行模拟体验 | Nextech3D.ai 公司已签署协议，通过其 Krafty Lab 平台与 The Squadron 合作，提供先进的飞行模拟体验，包括 F-35 模拟。这项举措旨在为企业客户提供领导力发展和参与项目，整合 Krafty Lab 现有的 | [Link](https://longbridge.com/zh-CN/news/274812539.md) |
| 挪威邮轮的股票正在上涨。据报道，一位大型激进投资者已经持有股份 | 挪威邮轮的股票在盘前交易中上涨了 6%，此前有报道称激进投资者 Elliott 已收购超过 10% 的股份，并计划推动变革，包括提名一名董事加入董事会。这是在最近的领导层变动之后，约翰·奇德西接替哈里·萨默担任首席执行官，此前导致股票价值下 | [Link](https://longbridge.com/zh-CN/news/276111879.md) |
| 由黑石集团支持的 Liftoff Mobile 申请撤回在美国的上市计划 | 2 月 17 日（路透社）- 受黑石集团支持的 Liftoff Mobile 已在美国提交申请，撤回其首次公开募股计划，该公司在周二的监管文件中表示。Liftoff 本月早些时候因市场状况推迟了其计划中的公开募股，目标估值高达 51.7 亿 | [Link](https://longbridge.com/zh-CN/news/276118530.md) |
| 据《华尔街日报》报道，激进投资者 Jana Partners 正在增持 Fiserv, Inc.的股份 | 2 月 17 日（路透社）- 激进投资者 Jana Partners 已在 Fiserv 中建立了股份，并正在敦促这家支付公司采取措施提升其滞后的股价，《华尔街日报》周二报道。该公司的股票在盘前交易中上涨了 6.5%。该股在 2025 年下 | [Link](https://longbridge.com/zh-CN/news/276121779.md) |

---

> **免责声明**：本文内容仅供参考，不构成任何投资建议。