<p>本週，人工智能代理人抵達達沃斯，如何確保其安全並防止代理人成為最終的內部威脅在網絡威脅的討論小組中成為焦點。</p>
<p>“我們已經很難讓人類接受培訓以有效防止網絡攻擊。現在我還得為人類和代理人結合起來進行培訓，” Pearson 首席技術官 Dave Treat 説道。</p>
<p>Pearson 是一家全球教育和培訓公司，Treat 在小組的問答環節中作為觀眾發言，而不是小組成員。Treat 表示，像許多公司一樣，Pearson 正在其環境中引入人工智能代理人。</p>
<p>這為那些不想錯過人工智能代理人所能提供的效率提升的組織帶來了全新的挑戰——但他們也不希望這些代理人訪問應該限制的數據和系統，或執行可能對業務或個人造成傷害的任務。</p>
<p>Treat 表示，人工智能代理人 “往往想要取悦人類。我們如何創造和調整這些代理人，使其保持懷疑態度，而不被人類所受的同樣伎倆和戰術所欺騙？”</p>
<blockquote>
<p>我們已經很難讓人類接受培訓以有效防止網絡攻擊。現在我還得為人類和代理人進行培訓。</p>
</blockquote>
<p>目前，沒有人對此問題有好的答案——至少還沒有。這仍然是與人工智能和代理人相關的其他安全威脅的挑戰，例如提示注入。</p>
<p>目前，實施零信任和最小權限訪問仍然是最佳實踐中的重要內容。而且，我們應該注意，這些擔憂也促使安全公司之間的併購活動，試圖收購較小的、專注於人工智能的初創公司。</p>
<p>“對於代理人，你需要將其視為團隊的延伸，員工基礎的延伸，” Cloudflare 聯合創始人兼總裁 Michelle Zatlyn 在達沃斯小組中表示。“組織正在為他們的員工採用零信任。代理人也會發生同樣的事情。”</p>
<p>e&amp;的集團首席執行官 Hatem Dowidar 建議增加更多的保護措施和監控代理人，以監控他們的人工智能助手。</p>
<p>“對於人類代理人，記得很多年前我們開始説 ‘所有通話都被錄音以確保質量’ 嗎？我們也需要為人工智能代理人創建這樣的機制，” Dowidar 説道。“我們需要建立保護措施，並有監控代理人在一個獨立的系統中，查看你的人工智能代理人的行為，並立即標記任何異常情況。”</p>
<p>萬事達首席執行官 Michael Miebach 表示，組織應該借鑑銀行業的安全和威脅情報實踐，從相關數據流和其他指標中收集儘可能多的信號，以確定活動是安全的還是惡意的。</p>
<ul>
<li>是的，罪犯正在使用人工智能來編碼惡意軟件</li>
<li>Palo Alto Networks 的安全情報負責人稱人工智能代理人是 2026 年最大的內部威脅</li>
<li>Block 的首席信息安全官：我們對自己的人工智能代理人進行了紅隊測試，在員工的筆記本電腦上運行信息竊取程序</li>
<li>特朗普承諾在 3 周內發放核數據中心許可證，並稱格林蘭是 ‘美麗的冰塊’</li>
</ul>
<p>他還指出，萬事達收購了 Recorded Future，以實現這種主動的威脅獵捕目的。</p>
<p>Miebach 表示，識別威脅 “取決於許多因素。可能是身份，也可能是你的位置信息。是許多數據集結合在一起，得出 99% 的概率評分。這是一個良好的交易。讓它發生。”</p>
<p>分析所有這些信號以改善安全防禦需要公司能夠訪問其數據，而這正是人工智能和安全用例交集的地方，Miebach 表示。</p>
<p>“你可以利用更新的數據基礎設施和數據來源工作來推動防禦，” Miebach 説道。</p>
<p>根據 Dowidar 的説法，這也是網絡防禦者可以利用人工智能代理人來提升自身安全態勢的一個領域。</p>
<p>“我們需要更智能的網絡，” 他説。“我們需要持續監控不同的行為。人們正在利用人工智能能力或代理人進行黑客攻擊或不良行為，我們也有代理人關注新的或不同的行為，並及早將其隔離，以保護網絡。” ®</p>

萬事達

<p>在達沃斯，一場小組討論了確保人工智能代理安全的挑戰，強調了對人類和人工智能進行培訓以防止網絡威脅的必要性。專家們指出實施零信任和最小權限訪問的重要性，同時建議為人工智能行為創建保護措施和監控系統。像萬事達這樣的公司正在採用銀行安全實踐來分析數據信號以進行威脅檢測。此次討論強調了人工智能代理作為潛在威脅和增強組織安全措施工具的雙重角色</p>

<p>AI agents arrived in Davos this week with the question of how to secure them - and prevent agents from becoming the ultimate insider threat - taking center stage during a panel discussion on cyber threats.</p>
<div class="lb-trans"><p>本週，人工智能代理人抵達達沃斯，如何確保其安全並防止代理人成為最終的內部威脅在網絡威脅的討論小組中成為焦點。</p>
</div><p>&#34;We have enough difficulty getting the humans trained to be effective at preventing cyberattacks. Now I've got to do it for humans and agents in combination,&#34; Pearson Chief Technology Officer Dave Treat said.</p>
<div class="lb-trans"><p>“我們已經很難讓人類接受培訓以有效防止網絡攻擊。現在我還得為人類和代理人結合起來進行培訓，” Pearson 首席技術官 Dave Treat 説道。</p>
</div><p>Pearson's a global education and training company, and Treat was speaking during the question-and-answer part of the panel as an audience member, not a panelist. Like many companies, Pearson is introducing AI agents into its environments, Treat said.</p>
<div class="lb-trans"><p>Pearson 是一家全球教育和培訓公司，Treat 在小組的問答環節中作為觀眾發言，而不是小組成員。Treat 表示，像許多公司一樣，Pearson 正在其環境中引入人工智能代理人。</p>
</div><p>This opens up a whole new set of challenges for organizations that don't want to miss out on the efficiency gains that AI agents can provide - but they also don't want these agents to access data and systems that should be off limits to them, or perform tasks that can harm the business or individuals.</p>
<div class="lb-trans"><p>這為那些不想錯過人工智能代理人所能提供的效率提升的組織帶來了全新的挑戰——但他們也不希望這些代理人訪問應該限制的數據和系統，或執行可能對業務或個人造成傷害的任務。</p>
</div><p>AI agents, Treat said, &#34;tend to want to please. How are we creating and tuning these agents to be suspicious and not be fooled by the same ploys and tactics that humans are fooled with?&#34;</p>
<div class="lb-trans"><p>Treat 表示，人工智能代理人 “往往想要取悦人類。我們如何創造和調整這些代理人，使其保持懷疑態度，而不被人類所受的同樣伎倆和戰術所欺騙？”</p>
</div><blockquote>
<p>We have enough difficulty getting the humans trained to be effective at preventing cyberattacks. Now I've got to do it for humans and agents</p>
</blockquote>
<div class="lb-trans"><blockquote>
<p>我們已經很難讓人類接受培訓以有效防止網絡攻擊。現在我還得為人類和代理人進行培訓。</p>
</blockquote>
</div><p>No one has a good answer to this question - at least not yet. This remains the challenge with other security threats related to AI and agents, like prompt injection.</p>
<div class="lb-trans"><p>目前，沒有人對此問題有好的答案——至少還沒有。這仍然是與人工智能和代理人相關的其他安全威脅的挑戰，例如提示注入。</p>
</div><p>For now, implementing zero trust and least-privilege access remains high on the list of best practices. And, we should note, these concerns are also triggering M&amp;A activity among security firms looking to scoop up smaller, AI-focused startups.</p>
<div class="lb-trans"><p>目前，實施零信任和最小權限訪問仍然是最佳實踐中的重要內容。而且，我們應該注意，這些擔憂也促使安全公司之間的併購活動，試圖收購較小的、專注於人工智能的初創公司。</p>
</div><p>&#34;With agents, you need to think about them as an extension of your team, an extension of your employee base,&#34; Cloudflare co-founder and president Michelle Zatlyn said, speaking on the Davos panel. &#34;Organizations are adopting zero trust for their employees. The same thing will happen with agents.&#34;</p>
<div class="lb-trans"><p>“對於代理人，你需要將其視為團隊的延伸，員工基礎的延伸，” Cloudflare 聯合創始人兼總裁 Michelle Zatlyn 在達沃斯小組中表示。“組織正在為他們的員工採用零信任。代理人也會發生同樣的事情。”</p>
</div><p>Hatem Dowidar, group CEO of e&amp;, an Emirati state-owned communications, technology, and investment group, suggested more guardrails and guard agents to monitor their AI minions.</p>
<div class="lb-trans"><p>e&amp;的集團首席執行官 Hatem Dowidar 建議增加更多的保護措施和監控代理人，以監控他們的人工智能助手。</p>
</div><p>&#34;With human agents, remember many, many years ago we started saying 'all calls are recorded for quality purposes?' We need to create that also for AI agents,&#34; Dowidar said. &#34;We need to set up guardrails and have guard agents that are in a separate system that look into how your AI agents are behaving and immediately flagging anything that is going out of the ordinary.&#34;</p>
<div class="lb-trans"><p>“對於人類代理人，記得很多年前我們開始説 ‘所有通話都被錄音以確保質量’ 嗎？我們也需要為人工智能代理人創建這樣的機制，” Dowidar 説道。“我們需要建立保護措施，並有監控代理人在一個獨立的系統中，查看你的人工智能代理人的行為，並立即標記任何異常情況。”</p>
</div><p>Mastercard CEO Michael Miebach said organizations should take a page from the banking industry's security and threat-intelligence practices, and collect as many signals as possible from relevant data streams and other indicators to determine if activity is safe or malicious.</p>
<div class="lb-trans"><p>萬事達首席執行官 Michael Miebach 表示，組織應該借鑑銀行業的安全和威脅情報實踐，從相關數據流和其他指標中收集儘可能多的信號，以確定活動是安全的還是惡意的。</p>
</div><ul>
<li>Yes, criminals are using AI to vibe-code malware</li>
<li>Palo Alto Networks security-intel boss calls AI agents 2026's biggest insider threat</li>
<li>Block CISO: We red-teamed our own AI agent to run an infostealer on an employee laptop</li>
<li>Trump promises nuclear datacenter permits in 3 weeks, calls Greenland 'big beautiful ice'</li>
</ul>
<div class="lb-trans"><ul>
<li>是的，罪犯正在使用人工智能來編碼惡意軟件</li>
<li>Palo Alto Networks 的安全情報負責人稱人工智能代理人是 2026 年最大的內部威脅</li>
<li>Block 的首席信息安全官：我們對自己的人工智能代理人進行了紅隊測試，在員工的筆記本電腦上運行信息竊取程序</li>
<li>特朗普承諾在 3 周內發放核數據中心許可證，並稱格林蘭是 ‘美麗的冰塊’</li>
</ul>
</div><p>He also noted that Mastercard acquired Recorded Future for this type of proactive, threat-hunting purpose.</p>
<div class="lb-trans"><p>他還指出，萬事達收購了 Recorded Future，以實現這種主動的威脅獵捕目的。</p>
</div><p>Identifying threats, Miebach said, &#34;comes down to many things. It could be identity. It could also be your location data. It's many, many data sets that come together with a 99 percent probability score. This is a good transaction. Let it happen.&#34;</p>
<div class="lb-trans"><p>Miebach 表示，識別威脅 “取決於許多因素。可能是身份，也可能是你的位置信息。是許多數據集結合在一起，得出 99% 的概率評分。這是一個良好的交易。讓它發生。”</p>
</div><p>Analyzing all of these signals to improve security defenses requires companies to have access to their data, and this is where AI and security use cases intersect, according to Miebach.</p>
<div class="lb-trans"><p>分析所有這些信號以改善安全防禦需要公司能夠訪問其數據，而這正是人工智能和安全用例交集的地方，Miebach 表示。</p>
</div><p>&#34;You can use the updated data infrastructure and lineage work to also drive the defenses,&#34; Miebach said.</p>
<div class="lb-trans"><p>“你可以利用更新的數據基礎設施和數據來源工作來推動防禦，” Miebach 説道。</p>
</div><p>This, according to Dowidar, is also an area where network defenders can use AI agents to boost their own security posture.</p>
<div class="lb-trans"><p>根據 Dowidar 的説法，這也是網絡防禦者可以利用人工智能代理人來提升自身安全態勢的一個領域。</p>
</div><p>&#34;We need more intelligent networks,&#34; he said. &#34;We need to continuously monitor for different behaviors. People are using AI capabilities or agents for hacking or for bad actions, we also have agents that are looking at new behavior or different behavior and isolating it early on to be able to protect the network.&#34; ®</p>
<div class="lb-trans"><p>“我們需要更智能的網絡，” 他説。“我們需要持續監控不同的行為。人們正在利用人工智能能力或代理人進行黑客攻擊或不良行為，我們也有代理人關注新的或不同的行為，並及早將其隔離，以保護網絡。” ®</p>
</div>

Davos discussion mulls how to keep AI agents from running wild

- Davos 上的討論聚焦於如何確保 AI 代理的安全性。
- 組織面臨訓練人類與 AI 代理共同防止網絡攻擊的挑戰。
- 各界專家提到實施零信任和最低權限訪問仍是最佳實踐。

達沃斯論壇討論如何防止人工智能代理失控