<p>根據 Palo Alto Networks 首席安全情報官 Wendi Whitmore 的説法，2026 年，面試 AI 代理將成為公司新的內部威脅，這給負責確保預期自主代理激增的高管們帶來了幾個挑戰。</p>
<p>Whitmore 在接受《The Register》採訪時表示：“首席信息安全官和安全團隊面臨着儘快部署新技術的巨大壓力，這造成了團隊在快速完成採購流程、安全檢查以及瞭解新 AI 應用是否足夠安全以滿足這些組織的用例時，承受着巨大的壓力和工作負擔。”</p>
<p>“這就產生了 AI 代理本身成為新的內部威脅的概念，” 她補充道。</p>
<p>根據 Gartner 的估計，到 2026 年底，40% 的企業應用將與特定任務的 AI 代理集成，而 2025 年這一比例不到 5%。Whitmore 在一次採訪和預測報告中表示，這一激增呈現出雙刃劍的特性。</p>
<p>一方面，AI 代理可以幫助填補困擾安全團隊多年的網絡技能缺口，執行諸如修復錯誤代碼、自動化日誌掃描和警報分類、快速阻止安全威脅等任務。</p>
<blockquote>
<p>當我們從防禦者的角度來看，代理能力使我們能夠更戰略性地思考如何保護我們的網絡，而不是總是陷入被動反應的局面。</p>
</blockquote>
<p>Whitmore 表示：“當我們從防禦者的角度來看，代理能力使我們能夠更戰略性地思考如何保護我們的網絡，而不是總是陷入被動反應的局面。”</p>
<p>Whitmore 告訴《The Register》，她最近與 Palo Alto Networks 內部安全運營中心（SOC）的一位分析師進行了交談，該分析師構建了一個基於 AI 的程序，該程序將公開已知的威脅與網絡安全部門自己的私有威脅情報數據進行索引，並分析公司的韌性，以及哪些安全問題更可能造成傷害。</p>
<p>她表示，這使得公司能夠 “在接下來的六個月、下一年內，專注於我們需要實施的哪些戰略政策？我們需要哪些數據源，而這些數據源今天可能並沒有被考慮到？”</p>
<p>在 SOC 中使用 AI 的下一步涉及將警報分類為可操作、自動關閉或自動修復。Whitmore 表示：“我們正在不同階段實施這些。當我們考慮代理時，我們首先從一些更簡單的用例開始，然後隨着我們在響應能力上變得更加自信而逐步推進。”</p>
<p>然而，這些代理——根據其配置和權限——也可能對敏感數據和系統具有特權訪問權限。這使得代理 AI 變得脆弱，併成為一個非常有吸引力的攻擊目標。</p>
<p>Whitmore 解釋説，其中一個風險源於 “超級用户問題”。當自主代理被授予廣泛權限時，就會出現這種情況，形成一個 “超級用户”，可以在安全團隊不知情或未獲批准的情況下，串聯訪問敏感應用和資源。</p>
<p>Whitmore 表示：“確保我們僅部署完成工作所需的最少權限變得同樣重要，就像我們對待人類一樣。”</p>
<h3>你的 CEO 有一個 AI 替身嗎？</h3>
<p>“第二個領域是我們在調查中尚未看到的，” 她繼續説道。“但在我們進行預測時，我看到這個替身的概念。”</p>
<p>這涉及使用特定任務的 AI 代理來批准交易或審查和簽署本應需要 C 級高管手動批准的合同。</p>
<p>Whitmore 表示：“我們考慮到經營業務的人，他們在一天中往往會被拉向多個方向。因此，有這樣一個概念：我們可以通過創建這些代理來提高 CEO 的工作效率。但最終，隨着我們賦予這些代理更多的權力、權威和自主性，我們將開始面臨一些真正的問題。”</p>
<p>例如：一個代理可能會代表 CEO 批准不必要的電匯轉賬。或者想象一個併購場景，攻擊者以某種方式操縱模型，迫使 AI 代理以惡意意圖行動。</p>
<p>根據 Palo Alto Networks 2026 年的預測，通過使用 “一次精心設計的提示注入或利用 ‘工具誤用’ 漏洞”，對手現在 “擁有一個自主的內部人員，可以悄無聲息地執行交易、刪除備份或轉移整個客户數據庫。”</p>
<p>這也説明了提示注入攻擊的持續威脅。今年，研究人員反覆表明，提示注入攻擊是一個真實的問題，且沒有解決方案。</p>
<p>Whitmore 表示：“在變好之前，這可能會變得更糟。” 她提到提示注入。“這意味着，我認為我們還沒有將這些系統鎖定得足夠好。”</p>
<h3>攻擊者如何使用 AI</h3>
<p>其中一些是故意的。Whitmore 表示：“新系統及其技術的創造者需要人們能夠提出創造性的攻擊用例，這通常涉及操縱模型。這意味着我們必須將安全性融入其中，而今天我們已經走在了前面。AI 模型本身的發展和創新發生得比安全的整合要快得多，後者滯後於前。”</p>
<h3>讓攻擊者更強大</h3>
<p>在 2025 年，Palo Alto Networks 的 Unit 42 事件響應團隊看到攻擊者以兩種方式濫用 AI。一是使他們能夠更快、更大規模地進行傳統網絡攻擊。第二種涉及操縱模型和 AI 系統以進行新類型的攻擊。</p>
<p>“歷史上，當攻擊者首次進入一個環境時，他們想要橫向移動到域控制器，” Whitmore 説。“他們想要提取 Active Directory 憑證，想要提升權限。我們現在不太看到這種情況。我們看到的是，他們立即獲得對環境的訪問，直接進入內部 LLM，並開始查詢模型以獲取問題和答案，然後讓它代替他們完成所有工作。”</p>
<p>Whitmore 以及過去幾個月與《註冊》交談的幾乎所有其他網絡安全高管都指出了 “Anthropic 攻擊” 作為一個例子。</p>
<ul>
<li>從人工智能到模擬，網絡安全桌面演練今年看起來有些不同</li>
<li>看起來你在勒索數據。你需要一些幫助嗎？</li>
<li>間諜轉型創業公司 CEO：‘人工智能的 WannaCry 將會發生’</li>
<li>AWS 加入微軟、谷歌的安全 AI 代理競賽</li>
</ul>
<p>她指的是九月份多家知名公司和政府組織發生的數字入侵事件，後來被 Anthropic 記錄下來。中國網絡間諜利用該公司的 Claude Code AI 工具自動化情報收集攻擊，並在某些情況下成功了。</p>
<p>雖然 Whitmore 不預計 AI 代理今年會進行任何完全自主的攻擊，但她確實預計 AI 將成為網絡入侵者的力量倍增器。“你會看到這些非常小的團隊幾乎具備大軍的能力，” 她説。“他們現在可以利用 AI 的能力做更多以前需要更大團隊才能執行的工作。”</p>
<p>Whitmore 將當前的 AI 熱潮比作二十年前發生的雲遷移。“在雲環境中發生的最大泄露並不是因為他們在使用雲，而是因為他們針對的是不安全的雲配置部署，” 她説。“在 AI 採用方面，我們確實看到了許多相同的指標。”</p>
<p>對於 CISO 來説，這意味着在 AI 身份和配置代理以及其他基於 AI 的系統時建立最佳實踐，並設置訪問控制，以限制它們僅訪問執行特定任務所需的數據和應用程序。</p>
<p>“我們需要為他們提供最少的訪問權限，並設置控制措施，以便我們可以快速檢測到代理是否失控，” Whitmore 説。®</p>

納斯達克網絡安全 ETF - First Trust

派拓網絡

<p>Palo Alto Networks 的首席安全情報官 Wendi Whitmore 警告稱，到 2026 年，人工智能代理將成為最大的內部威脅。隨着企業越來越多地整合人工智能，安全團隊面臨確保這些技術安全的壓力。雖然人工智能可以幫助解決網絡技能缺口，但它也帶來了風險，例如 “超級用户問題”，即代理擁有過多權限。Whitmore 強調了潛在的危險，包括人工智能代理批准未經授權的交易，強調需要謹慎管理人工智能能力，以防止惡意利用</p>

<p>interview AI agents represent the new insider threat to companies in 2026, according to Palo Alto Networks Chief Security Intel Officer Wendi Whitmore, and this poses several challenges to executives tasked with securing the expected surge in autonomous agents.</p>
<div class="lb-trans"><p>根據 Palo Alto Networks 首席安全情報官 Wendi Whitmore 的説法，2026 年，面試 AI 代理將成為公司新的內部威脅，這給負責確保預期自主代理激增的高管們帶來了幾個挑戰。</p>
</div><p>&#34;The CISO and security teams find themselves under a lot of pressure to deploy new technology as quickly as possible, and that creates this massive amount of pressure - and massive workload - that the teams are under to quickly go through procurement processes, security checks, and understand if the new AI applications are secure enough for the use cases that these organizations have,&#34; Whitmore told <em>The Register</em>.</p>
<div class="lb-trans"><p>Whitmore 在接受《The Register》採訪時表示：“首席信息安全官和安全團隊面臨着儘快部署新技術的巨大壓力，這造成了團隊在快速完成採購流程、安全檢查以及瞭解新 AI 應用是否足夠安全以滿足這些組織的用例時，承受着巨大的壓力和工作負擔。”</p>
</div><p>&#34;And that's created this concept of the AI agent itself becoming the new insider threat,&#34; she added.</p>
<div class="lb-trans"><p>“這就產生了 AI 代理本身成為新的內部威脅的概念，” 她補充道。</p>
</div><p>According to Gartner's estimates, 40 percent of all enterprise applications will integrate with task-specific AI agents by the end of 2026, up from less than 5 percent in 2025. This surge presents a double-edged sword, Whitmore said in an interview and predictions report.</p>
<div class="lb-trans"><p>根據 Gartner 的估計，到 2026 年底，40% 的企業應用將與特定任務的 AI 代理集成，而 2025 年這一比例不到 5%。Whitmore 在一次採訪和預測報告中表示，這一激增呈現出雙刃劍的特性。</p>
</div><p>On one hand, AI agents can help fill the ongoing cyber-skills gap that has plagued security teams for years, doing things like correcting buggy code, automating log scans and alert triage, and rapidly blocking security threats.</p>
<div class="lb-trans"><p>一方面，AI 代理可以幫助填補困擾安全團隊多年的網絡技能缺口，執行諸如修復錯誤代碼、自動化日誌掃描和警報分類、快速阻止安全威脅等任務。</p>
</div><blockquote>
<p>When we look through the defender lens, a lot of what the agentic capabilities allow us to do is start thinking more strategically about how we defend our networks, versus always being caught in this reactive situation</p>
</blockquote>
<div class="lb-trans"><blockquote>
<p>當我們從防禦者的角度來看，代理能力使我們能夠更戰略性地思考如何保護我們的網絡，而不是總是陷入被動反應的局面。</p>
</blockquote>
</div><p>&#34;When we look through the defender lens, a lot of what the agentic capabilities allow us to do is start thinking more strategically about how we defend our networks, versus always being caught in this reactive situation,&#34; Whitmore said.</p>
<div class="lb-trans"><p>Whitmore 表示：“當我們從防禦者的角度來看，代理能力使我們能夠更戰略性地思考如何保護我們的網絡，而不是總是陷入被動反應的局面。”</p>
</div><p>Whitmore told <em>The Register</em> she had recently spoken with one of Palo Alto Networks' internal security operations center (SOC) analysts who had built an AI-based program that indexed publicly known threats against the cybersecurity shop's own private threat-intel data, and analyzed the company's resilience, as well as which security issues were more likely to cause harm.</p>
<div class="lb-trans"><p>Whitmore 告訴《The Register》，她最近與 Palo Alto Networks 內部安全運營中心（SOC）的一位分析師進行了交談，該分析師構建了一個基於 AI 的程序，該程序將公開已知的威脅與網絡安全部門自己的私有威脅情報數據進行索引，並分析公司的韌性，以及哪些安全問題更可能造成傷害。</p>
</div><p>This, she said, allows the firm to &#34;focus our strategic policies over the next six months, the next yes, on what kinds of things do we need to be putting in place? What data sources do we need that we are not necessarily thinking of today?&#34;</p>
<div class="lb-trans"><p>她表示，這使得公司能夠 “在接下來的六個月、下一年內，專注於我們需要實施的哪些戰略政策？我們需要哪些數據源，而這些數據源今天可能並沒有被考慮到？”</p>
</div><p>The next step in using AI in the SOC involves categorizing alerts as actionable, auto-close, or auto-remediate. &#34;We are in various stages of implementing these,&#34; Whitmore said. &#34;When we look at agentic, we start with some of the more simple use cases first, and then progress as we become more confident in those from a response capability.&#34;</p>
<div class="lb-trans"><p>在 SOC 中使用 AI 的下一步涉及將警報分類為可操作、自動關閉或自動修復。Whitmore 表示：“我們正在不同階段實施這些。當我們考慮代理時，我們首先從一些更簡單的用例開始，然後隨着我們在響應能力上變得更加自信而逐步推進。”</p>
</div><p>However, these agents – depending on their configurations and permissions – may also have privileged access to sensitive data and systems. This makes agentic AI vulnerable – and a very attractive target to attack.</p>
<div class="lb-trans"><p>然而，這些代理——根據其配置和權限——也可能對敏感數據和系統具有特權訪問權限。這使得代理 AI 變得脆弱，併成為一個非常有吸引力的攻擊目標。</p>
</div><p>One of the risks stems from the &#34;superuser problem,&#34; Whitmore explained. This occurs when the autonomous agents are granted broad permissions, creating a &#34;superuser&#34; that can chain together access to sensitive applications and resources without security teams' knowledge or approval.</p>
<div class="lb-trans"><p>Whitmore 解釋説，其中一個風險源於 “超級用户問題”。當自主代理被授予廣泛權限時，就會出現這種情況，形成一個 “超級用户”，可以在安全團隊不知情或未獲批准的情況下，串聯訪問敏感應用和資源。</p>
</div><p>&#34;It becomes equally as important for us to make sure that we are only deploying the least amount of privileges needed to get a job done, just like we would do for humans,&#34; Whitmore said.</p>
<div class="lb-trans"><p>Whitmore 表示：“確保我們僅部署完成工作所需的最少權限變得同樣重要，就像我們對待人類一樣。”</p>
</div><h3>Does your CEO have an AI doppelganger?</h3>
<div class="lb-trans"><h3>你的 CEO 有一個 AI 替身嗎？</h3>
</div><p>&#34;The second area is one we haven't seen in investigations yet,&#34; she continued. &#34;But while we're on the predictions lens, I see this concept of a doppelganger.&#34;</p>
<div class="lb-trans"><p>“第二個領域是我們在調查中尚未看到的，” 她繼續説道。“但在我們進行預測時，我看到這個替身的概念。”</p>
</div><p>This involves using task-specific AI agents to approve transactions or review and sign off on contracts that would otherwise require C-suite level manual approvals.</p>
<div class="lb-trans"><p>這涉及使用特定任務的 AI 代理來批准交易或審查和簽署本應需要 C 級高管手動批准的合同。</p>
</div><p>&#34;We think about the people who are running the business, and they're oftentimes pulled in a million directions throughout the course of the day,&#34; Whitmore said. &#34;So there's this concept of: We can make the CEO's job more efficient by creating these agents. But ultimately, as we give more power and authority and autonomy to these agents, we're going to then start getting into some real problems.&#34;</p>
<div class="lb-trans"><p>Whitmore 表示：“我們考慮到經營業務的人，他們在一天中往往會被拉向多個方向。因此，有這樣一個概念：我們可以通過創建這些代理來提高 CEO 的工作效率。但最終，隨着我們賦予這些代理更多的權力、權威和自主性，我們將開始面臨一些真正的問題。”</p>
</div><p>For example: an agent could approve an unwanted wire transfer on behalf of the CEO. Or imagine a mergers and acquisitions scenario, with an attacker manipulating the models in such a way that forces an AI agent to act with malicious intent.</p>
<div class="lb-trans"><p>例如：一個代理可能會代表 CEO 批准不必要的電匯轉賬。或者想象一個併購場景，攻擊者以某種方式操縱模型，迫使 AI 代理以惡意意圖行動。</p>
</div><p>By using a &#34;single, well-crafted prompt injection or by exploiting a 'tool misuse' vulnerability,&#34; adversaries now &#34;have an autonomous insider at their command, one that can silently execute trades, delete backups, or pivot to exfiltrate the entire customer database,&#34; according to Palo Alto Networks' 2026 predictions.</p>
<div class="lb-trans"><p>根據 Palo Alto Networks 2026 年的預測，通過使用 “一次精心設計的提示注入或利用 ‘工具誤用’ 漏洞”，對手現在 “擁有一個自主的內部人員，可以悄無聲息地執行交易、刪除備份或轉移整個客户數據庫。”</p>
</div><p>This also illustrates the ongoing threat of prompt-injection attacks. This year, researchers have repeatedly shown prompt injection attacks to be a real problem, with no fix in sight.</p>
<div class="lb-trans"><p>這也説明了提示注入攻擊的持續威脅。今年，研究人員反覆表明，提示注入攻擊是一個真實的問題，且沒有解決方案。</p>
</div><p>&#34;It's probably going to get a lot worse before it gets better,&#34; Whitmore said, referring to prompt-injection. &#34;Meaning, I just don't think we have these systems locked down enough.&#34;</p>
<div class="lb-trans"><p>Whitmore 表示：“在變好之前，這可能會變得更糟。” 她提到提示注入。“這意味着，我認為我們還沒有將這些系統鎖定得足夠好。”</p>
</div><h3>How attackers use AI</h3>
<div class="lb-trans"><h3>攻擊者如何使用 AI</h3>
</div><p>Some of this is intentional. &#34;New systems, and the creators of these technologies, need people to be able to come up with creative attack use cases, and this often involves manipulating&#34; the models, Whitmore said. &#34;This means that we've got to have security baked in, and today we're ahead of our skis. The development and innovation within the AI models themselves is happening a lot faster than the incorporation of security, which is lagging behind.&#34;</p>
<div class="lb-trans"><p>其中一些是故意的。Whitmore 表示：“新系統及其技術的創造者需要人們能夠提出創造性的攻擊用例，這通常涉及操縱模型。這意味着我們必須將安全性融入其中，而今天我們已經走在了前面。AI 模型本身的發展和創新發生得比安全的整合要快得多，後者滯後於前。”</p>
</div><h3>Making attackers more powerful</h3>
<div class="lb-trans"><h3>讓攻擊者更強大</h3>
</div><p>In 2025, Palo Alto Networks' Unit 42 incident response team saw attackers abuse AI in two ways. One: it allowed them to conduct traditional cyberattacks faster, and at scale. The second involved manipulating models and AI systems to conduct new types of attacks.</p>
<div class="lb-trans"><p>在 2025 年，Palo Alto Networks 的 Unit 42 事件響應團隊看到攻擊者以兩種方式濫用 AI。一是使他們能夠更快、更大規模地進行傳統網絡攻擊。第二種涉及操縱模型和 AI 系統以進行新類型的攻擊。</p>
</div><p>&#34;Historically, when an attacker gets initial access into an environment, they want to move laterally to a domain controller,&#34; Whitmore said. &#34;They want to dump Active Directory credentials, they want to elevate privileges. We don't see that as much now. What we're seeing is them get access into an environment immediately, go straight to the internal LLM, and start querying the model for questions and answers, and then having it do all of the work on their behalf.&#34;</p>
<div class="lb-trans"><p>“歷史上，當攻擊者首次進入一個環境時，他們想要橫向移動到域控制器，” Whitmore 説。“他們想要提取 Active Directory 憑證，想要提升權限。我們現在不太看到這種情況。我們看到的是，他們立即獲得對環境的訪問，直接進入內部 LLM，並開始查詢模型以獲取問題和答案，然後讓它代替他們完成所有工作。”</p>
</div><p>Whitmore, along with just about every other cyber exec <em>The Register</em> has spoken with over the past couple of months, pointed to the &#34;Anthropic attack&#34; as an example.</p>
<div class="lb-trans"><p>Whitmore 以及過去幾個月與《註冊》交談的幾乎所有其他網絡安全高管都指出了 “Anthropic 攻擊” 作為一個例子。</p>
</div><ul>
<li>From AI to analog, cybersecurity tabletop exercises look a little different this year</li>
<li>It looks like you're ransoming data. Would you like some help?</li>
<li>Spy turned startup CEO: 'The WannaCry of AI will happen'</li>
<li>AWS joins Microsoft, Google in the security AI agent race</li>
</ul>
<div class="lb-trans"><ul>
<li>從人工智能到模擬，網絡安全桌面演練今年看起來有些不同</li>
<li>看起來你在勒索數據。你需要一些幫助嗎？</li>
<li>間諜轉型創業公司 CEO：‘人工智能的 WannaCry 將會發生’</li>
<li>AWS 加入微軟、谷歌的安全 AI 代理競賽</li>
</ul>
</div><p>She's referring to the September digital break-ins at multiple high-profile companies and government organizations later documented by Anthropic. Chinese cyberspies used the company's Claude Code AI tool to automate intel-gathering attacks, and in some cases they succeeded.</p>
<div class="lb-trans"><p>她指的是九月份多家知名公司和政府組織發生的數字入侵事件，後來被 Anthropic 記錄下來。中國網絡間諜利用該公司的 Claude Code AI 工具自動化情報收集攻擊，並在某些情況下成功了。</p>
</div><p>While Whitmore doesn't anticipate AI agents to carry out any fully autonomous attacks this year, she does expect AI to be a force multiplier for network intruders. &#34;You're going to see these really small teams almost have the capability of big armies,&#34; she said. &#34;They can now leverage AI capabilities to do so much more of the work that previously they would have had to have a much larger team to execute against.&#34;</p>
<div class="lb-trans"><p>雖然 Whitmore 不預計 AI 代理今年會進行任何完全自主的攻擊，但她確實預計 AI 將成為網絡入侵者的力量倍增器。“你會看到這些非常小的團隊幾乎具備大軍的能力，” 她説。“他們現在可以利用 AI 的能力做更多以前需要更大團隊才能執行的工作。”</p>
</div><p>Whitmore likens the current AI boom to the cloud migration that happened two decades ago. &#34;The biggest breaches that happened in cloud environments weren't because they were using the cloud, but because they were targeting insecure deployments of cloud configurations,&#34; she said. &#34;We're really seeing a lot of identical indicators when it comes to AI adoption.&#34;</p>
<div class="lb-trans"><p>Whitmore 將當前的 AI 熱潮比作二十年前發生的雲遷移。“在雲環境中發生的最大泄露並不是因為他們在使用雲，而是因為他們針對的是不安全的雲配置部署，” 她説。“在 AI 採用方面，我們確實看到了許多相同的指標。”</p>
</div><p>For CISOs, this means establishing best practices when it comes to AI identities and provisioning agents and other AI-based systems with access controls that limit them to only data and applications that are needed to perform their specific tasks.</p>
<div class="lb-trans"><p>對於 CISO 來説，這意味着在 AI 身份和配置代理以及其他基於 AI 的系統時建立最佳實踐，並設置訪問控制，以限制它們僅訪問執行特定任務所需的數據和應用程序。</p>
</div><p>&#34;We need to provision them with least-possible access and have controls set up so that we can quickly detect if an agent does go rogue,&#34; Whitmore said. ®</p>
<div class="lb-trans"><p>“我們需要為他們提供最少的訪問權限，並設置控制措施，以便我們可以快速檢測到代理是否失控，” Whitmore 説。®</p>
</div>

派拓網絡的安全情報負責人表示，人工智能代理將成為 2026 年最大的內部威脅