<p>本周，人工智能代理人抵达达沃斯，如何确保其安全并防止代理人成为最终的内部威胁在网络威胁的讨论小组中成为焦点。</p>
<p>“我们已经很难让人类接受培训以有效防止网络攻击。现在我还得为人类和代理人结合起来进行培训，” Pearson 首席技术官 Dave Treat 说道。</p>
<p>Pearson 是一家全球教育和培训公司，Treat 在小组的问答环节中作为观众发言，而不是小组成员。Treat 表示，像许多公司一样，Pearson 正在其环境中引入人工智能代理人。</p>
<p>这为那些不想错过人工智能代理人所能提供的效率提升的组织带来了全新的挑战——但他们也不希望这些代理人访问应该限制的数据和系统，或执行可能对业务或个人造成伤害的任务。</p>
<p>Treat 表示，人工智能代理人 “往往想要取悦人类。我们如何创造和调整这些代理人，使其保持怀疑态度，而不被人类所受的同样伎俩和战术所欺骗？”</p>
<blockquote>
<p>我们已经很难让人类接受培训以有效防止网络攻击。现在我还得为人类和代理人进行培训。</p>
</blockquote>
<p>目前，没有人对此问题有好的答案——至少还没有。这仍然是与人工智能和代理人相关的其他安全威胁的挑战，例如提示注入。</p>
<p>目前，实施零信任和最小权限访问仍然是最佳实践中的重要内容。而且，我们应该注意，这些担忧也促使安全公司之间的并购活动，试图收购较小的、专注于人工智能的初创公司。</p>
<p>“对于代理人，你需要将其视为团队的延伸，员工基础的延伸，” Cloudflare 联合创始人兼总裁 Michelle Zatlyn 在达沃斯小组中表示。“组织正在为他们的员工采用零信任。代理人也会发生同样的事情。”</p>
<p>e&amp;的集团首席执行官 Hatem Dowidar 建议增加更多的保护措施和监控代理人，以监控他们的人工智能助手。</p>
<p>“对于人类代理人，记得很多年前我们开始说 ‘所有通话都被录音以确保质量’ 吗？我们也需要为人工智能代理人创建这样的机制，” Dowidar 说道。“我们需要建立保护措施，并有监控代理人在一个独立的系统中，查看你的人工智能代理人的行为，并立即标记任何异常情况。”</p>
<p>万事达首席执行官 Michael Miebach 表示，组织应该借鉴银行业的安全和威胁情报实践，从相关数据流和其他指标中收集尽可能多的信号，以确定活动是安全的还是恶意的。</p>
<ul>
<li>是的，罪犯正在使用人工智能来编码恶意软件</li>
<li>Palo Alto Networks 的安全情报负责人称人工智能代理人是 2026 年最大的内部威胁</li>
<li>Block 的首席信息安全官：我们对自己的人工智能代理人进行了红队测试，在员工的笔记本电脑上运行信息窃取程序</li>
<li>特朗普承诺在 3 周内发放核数据中心许可证，并称格林兰是 ‘美丽的冰块’</li>
</ul>
<p>他还指出，万事达收购了 Recorded Future，以实现这种主动的威胁猎捕目的。</p>
<p>Miebach 表示，识别威胁 “取决于许多因素。可能是身份，也可能是你的位置信息。是许多数据集结合在一起，得出 99% 的概率评分。这是一个良好的交易。让它发生。”</p>
<p>分析所有这些信号以改善安全防御需要公司能够访问其数据，而这正是人工智能和安全用例交集的地方，Miebach 表示。</p>
<p>“你可以利用更新的数据基础设施和数据来源工作来推动防御，” Miebach 说道。</p>
<p>根据 Dowidar 的说法，这也是网络防御者可以利用人工智能代理人来提升自身安全态势的一个领域。</p>
<p>“我们需要更智能的网络，” 他说。“我们需要持续监控不同的行为。人们正在利用人工智能能力或代理人进行黑客攻击或不良行为，我们也有代理人关注新的或不同的行为，并及早将其隔离，以保护网络。” ®</p>

万事达

<p>在达沃斯，一场小组讨论了确保人工智能代理安全的挑战，强调了对人类和人工智能进行培训以防止网络威胁的必要性。专家们指出实施零信任和最小权限访问的重要性，同时建议为人工智能行为创建保护措施和监控系统。像万事达这样的公司正在采用银行安全实践来分析数据信号以进行威胁检测。此次讨论强调了人工智能代理作为潜在威胁和增强组织安全措施工具的双重角色</p>

<p>AI agents arrived in Davos this week with the question of how to secure them - and prevent agents from becoming the ultimate insider threat - taking center stage during a panel discussion on cyber threats.</p>
<div class="lb-trans"><p>本周，人工智能代理人抵达达沃斯，如何确保其安全并防止代理人成为最终的内部威胁在网络威胁的讨论小组中成为焦点。</p>
</div><p>&#34;We have enough difficulty getting the humans trained to be effective at preventing cyberattacks. Now I've got to do it for humans and agents in combination,&#34; Pearson Chief Technology Officer Dave Treat said.</p>
<div class="lb-trans"><p>“我们已经很难让人类接受培训以有效防止网络攻击。现在我还得为人类和代理人结合起来进行培训，” Pearson 首席技术官 Dave Treat 说道。</p>
</div><p>Pearson's a global education and training company, and Treat was speaking during the question-and-answer part of the panel as an audience member, not a panelist. Like many companies, Pearson is introducing AI agents into its environments, Treat said.</p>
<div class="lb-trans"><p>Pearson 是一家全球教育和培训公司，Treat 在小组的问答环节中作为观众发言，而不是小组成员。Treat 表示，像许多公司一样，Pearson 正在其环境中引入人工智能代理人。</p>
</div><p>This opens up a whole new set of challenges for organizations that don't want to miss out on the efficiency gains that AI agents can provide - but they also don't want these agents to access data and systems that should be off limits to them, or perform tasks that can harm the business or individuals.</p>
<div class="lb-trans"><p>这为那些不想错过人工智能代理人所能提供的效率提升的组织带来了全新的挑战——但他们也不希望这些代理人访问应该限制的数据和系统，或执行可能对业务或个人造成伤害的任务。</p>
</div><p>AI agents, Treat said, &#34;tend to want to please. How are we creating and tuning these agents to be suspicious and not be fooled by the same ploys and tactics that humans are fooled with?&#34;</p>
<div class="lb-trans"><p>Treat 表示，人工智能代理人 “往往想要取悦人类。我们如何创造和调整这些代理人，使其保持怀疑态度，而不被人类所受的同样伎俩和战术所欺骗？”</p>
</div><blockquote>
<p>We have enough difficulty getting the humans trained to be effective at preventing cyberattacks. Now I've got to do it for humans and agents</p>
</blockquote>
<div class="lb-trans"><blockquote>
<p>我们已经很难让人类接受培训以有效防止网络攻击。现在我还得为人类和代理人进行培训。</p>
</blockquote>
</div><p>No one has a good answer to this question - at least not yet. This remains the challenge with other security threats related to AI and agents, like prompt injection.</p>
<div class="lb-trans"><p>目前，没有人对此问题有好的答案——至少还没有。这仍然是与人工智能和代理人相关的其他安全威胁的挑战，例如提示注入。</p>
</div><p>For now, implementing zero trust and least-privilege access remains high on the list of best practices. And, we should note, these concerns are also triggering M&amp;A activity among security firms looking to scoop up smaller, AI-focused startups.</p>
<div class="lb-trans"><p>目前，实施零信任和最小权限访问仍然是最佳实践中的重要内容。而且，我们应该注意，这些担忧也促使安全公司之间的并购活动，试图收购较小的、专注于人工智能的初创公司。</p>
</div><p>&#34;With agents, you need to think about them as an extension of your team, an extension of your employee base,&#34; Cloudflare co-founder and president Michelle Zatlyn said, speaking on the Davos panel. &#34;Organizations are adopting zero trust for their employees. The same thing will happen with agents.&#34;</p>
<div class="lb-trans"><p>“对于代理人，你需要将其视为团队的延伸，员工基础的延伸，” Cloudflare 联合创始人兼总裁 Michelle Zatlyn 在达沃斯小组中表示。“组织正在为他们的员工采用零信任。代理人也会发生同样的事情。”</p>
</div><p>Hatem Dowidar, group CEO of e&amp;, an Emirati state-owned communications, technology, and investment group, suggested more guardrails and guard agents to monitor their AI minions.</p>
<div class="lb-trans"><p>e&amp;的集团首席执行官 Hatem Dowidar 建议增加更多的保护措施和监控代理人，以监控他们的人工智能助手。</p>
</div><p>&#34;With human agents, remember many, many years ago we started saying 'all calls are recorded for quality purposes?' We need to create that also for AI agents,&#34; Dowidar said. &#34;We need to set up guardrails and have guard agents that are in a separate system that look into how your AI agents are behaving and immediately flagging anything that is going out of the ordinary.&#34;</p>
<div class="lb-trans"><p>“对于人类代理人，记得很多年前我们开始说 ‘所有通话都被录音以确保质量’ 吗？我们也需要为人工智能代理人创建这样的机制，” Dowidar 说道。“我们需要建立保护措施，并有监控代理人在一个独立的系统中，查看你的人工智能代理人的行为，并立即标记任何异常情况。”</p>
</div><p>Mastercard CEO Michael Miebach said organizations should take a page from the banking industry's security and threat-intelligence practices, and collect as many signals as possible from relevant data streams and other indicators to determine if activity is safe or malicious.</p>
<div class="lb-trans"><p>万事达首席执行官 Michael Miebach 表示，组织应该借鉴银行业的安全和威胁情报实践，从相关数据流和其他指标中收集尽可能多的信号，以确定活动是安全的还是恶意的。</p>
</div><ul>
<li>Yes, criminals are using AI to vibe-code malware</li>
<li>Palo Alto Networks security-intel boss calls AI agents 2026's biggest insider threat</li>
<li>Block CISO: We red-teamed our own AI agent to run an infostealer on an employee laptop</li>
<li>Trump promises nuclear datacenter permits in 3 weeks, calls Greenland 'big beautiful ice'</li>
</ul>
<div class="lb-trans"><ul>
<li>是的，罪犯正在使用人工智能来编码恶意软件</li>
<li>Palo Alto Networks 的安全情报负责人称人工智能代理人是 2026 年最大的内部威胁</li>
<li>Block 的首席信息安全官：我们对自己的人工智能代理人进行了红队测试，在员工的笔记本电脑上运行信息窃取程序</li>
<li>特朗普承诺在 3 周内发放核数据中心许可证，并称格林兰是 ‘美丽的冰块’</li>
</ul>
</div><p>He also noted that Mastercard acquired Recorded Future for this type of proactive, threat-hunting purpose.</p>
<div class="lb-trans"><p>他还指出，万事达收购了 Recorded Future，以实现这种主动的威胁猎捕目的。</p>
</div><p>Identifying threats, Miebach said, &#34;comes down to many things. It could be identity. It could also be your location data. It's many, many data sets that come together with a 99 percent probability score. This is a good transaction. Let it happen.&#34;</p>
<div class="lb-trans"><p>Miebach 表示，识别威胁 “取决于许多因素。可能是身份，也可能是你的位置信息。是许多数据集结合在一起，得出 99% 的概率评分。这是一个良好的交易。让它发生。”</p>
</div><p>Analyzing all of these signals to improve security defenses requires companies to have access to their data, and this is where AI and security use cases intersect, according to Miebach.</p>
<div class="lb-trans"><p>分析所有这些信号以改善安全防御需要公司能够访问其数据，而这正是人工智能和安全用例交集的地方，Miebach 表示。</p>
</div><p>&#34;You can use the updated data infrastructure and lineage work to also drive the defenses,&#34; Miebach said.</p>
<div class="lb-trans"><p>“你可以利用更新的数据基础设施和数据来源工作来推动防御，” Miebach 说道。</p>
</div><p>This, according to Dowidar, is also an area where network defenders can use AI agents to boost their own security posture.</p>
<div class="lb-trans"><p>根据 Dowidar 的说法，这也是网络防御者可以利用人工智能代理人来提升自身安全态势的一个领域。</p>
</div><p>&#34;We need more intelligent networks,&#34; he said. &#34;We need to continuously monitor for different behaviors. People are using AI capabilities or agents for hacking or for bad actions, we also have agents that are looking at new behavior or different behavior and isolating it early on to be able to protect the network.&#34; ®</p>
<div class="lb-trans"><p>“我们需要更智能的网络，” 他说。“我们需要持续监控不同的行为。人们正在利用人工智能能力或代理人进行黑客攻击或不良行为，我们也有代理人关注新的或不同的行为，并及早将其隔离，以保护网络。” ®</p>
</div>

Davos discussion mulls how to keep AI agents from running wild

- Davos 上的讨论聚焦于如何确保 AI 代理的安全性。
- 组织面临训练人类与 AI 代理共同防止网络攻击的挑战。
- 各界专家提到实施零信任和最低权限访问仍是最佳实践。

达沃斯论坛讨论如何防止人工智能代理失控