<p>国际人工智能安全报告指出，人工智能代理和其他系统尚无法完全独立进行网络攻击，但它们可以在攻击链的多个阶段帮助犯罪分子。</p>
<p>第二份年度报告由加拿大计算机科学家约书亚·本吉奥主持，超过 100 名来自 30 个国家的专家撰写，发现过去一年中，人工智能系统的开发者在帮助自动化和实施网络攻击方面的能力大幅提升。</p>
<p>或许最好的，也是最令人担忧的证据出现在 Anthropic 于 2025 年 11 月发布的报告中，该报告提到中国网络间谍滥用其 Claude Code 人工智能工具，自动化针对约 30 家高知名度公司和政府组织的攻击的大部分环节。这些攻击在&#34;少数情况下&#34;取得了成功。</p>
<p>根据人工智能安全报告，&#34;至少有一起真实事件涉及使用半自主网络能力，只有在关键决策点人类才会介入。&#34;然而，尚未报告完全自主的端到端攻击。</p>
<p>人工智能在两个领域对犯罪分子尤其有用：扫描软件漏洞和编写恶意代码。</p>
<p>在 DARPA 的人工智能网络挑战赛（AIxCC）中——这是一个为期两年的比赛，团队构建人工智能模型以发现支撑关键基础设施的开源软件中的漏洞——根据比赛组织者，决赛系统在最终评分轮中自主识别了 77% 的合成漏洞。</p>
<p>虽然这是防御者使用人工智能发现和修复漏洞的例子，而不是攻击者使用人工智能发现和利用漏洞的例子，但犯罪分子也以类似方式使用模型。去年北半球夏季，我们看到攻击者在地下论坛上声称使用 HexStrike AI 这一开源红队工具，在供应商披露问题后的几个小时内，针对 Citrix NetScaler 设备的关键漏洞进行攻击。</p>
<ul>
<li>是的，犯罪分子正在使用人工智能编写恶意软件</li>
<li>谷歌高管警告，人工智能驱动的网络攻击工具 “只是时间问题”</li>
<li>代理失控！公司将不可信的机器人赋予王国的钥匙</li>
<li>DIY 人工智能机器人农场 OpenClaw 是一个安全的 “垃圾场”</li>
</ul>
<p>此外，人工智能系统在编写恶意软件方面的能力正在显著提升，犯罪分子可以以每月仅 50 美元的价格交易编写勒索软件和数据窃取代码的武器化模型。</p>
<p>根据报告作者的说法，目前的好消息是，人工智能系统在没有人类帮助的情况下，仍然无法很好地执行多阶段攻击。</p>
<p>报告指出，&#34;研究表明，自主攻击仍然有限，因为人工智能系统无法可靠地执行长时间的多阶段攻击序列。&#34;例如，它们表现出的失败包括执行无关命令、失去操作状态的追踪，以及在没有人类干预的情况下无法从简单错误中恢复。</p>
<p>然而，请记住，这一切都是在安全垃圾场 OpenClaw 之前写的——这个人工智能代理之前被称为 Moltbot 和 Clawdbot——以及 Moltbook，一个为人工智能代理提供的编程社交媒体平台。</p>
<p>因此，完全有可能的是，世界不会因为国家级团队或犯罪 mastermind 设计的复杂自主多阶段网络攻击而结束，而是因为一个失控的单一代理。®</p>

<p>目前，人工智能代理尚无法进行完全自主的网络攻击，但在攻击过程的各个阶段显著协助犯罪分子，正如国际人工智能安全报告中所强调的。该报告由 Yoshua Bengio 主导，揭示了人工智能系统在自动化网络攻击方面的进步，证据表明在现实事件中已使用半自主能力。人工智能在识别软件漏洞和编写恶意代码方面特别有效，尽管由于需要人类干预，完全自主的多阶段攻击仍然有限。报告强调了人工智能在网络犯罪中的持续演变，引发了对未来威胁的担忧</p>

<p>AI agents and other systems can't yet conduct cyberattacks fully on their own - but they can help criminals in many stages of the attack chain, according to the International AI Safety report.</p>
<div class="lb-trans"><p>国际人工智能安全报告指出，人工智能代理和其他系统尚无法完全独立进行网络攻击，但它们可以在攻击链的多个阶段帮助犯罪分子。</p>
</div><p>The second annual report, chaired by the Canadian computer scientist Yoshua Bengio and authored by more than 100 experts across 30 countries, found that over the past year, developers of AI systems have vastly improved their ability to help automate and perpetrate cyberattacks.</p>
<div class="lb-trans"><p>第二份年度报告由加拿大计算机科学家约书亚·本吉奥主持，超过 100 名来自 30 个国家的专家撰写，发现过去一年中，人工智能系统的开发者在帮助自动化和实施网络攻击方面的能力大幅提升。</p>
</div><p>Perhaps the best, and scariest, evidence of that finding appeared in Anthropic's November 2025 report about Chinese cyberspies abusing its Claude Code AI tool to automate most elements of attacks directed at around 30 high-profile companies and government organizations. Those attacks succeeded in &#34;a small number of cases.&#34;</p>
<div class="lb-trans"><p>或许最好的，也是最令人担忧的证据出现在 Anthropic 于 2025 年 11 月发布的报告中，该报告提到中国网络间谍滥用其 Claude Code 人工智能工具，自动化针对约 30 家高知名度公司和政府组织的攻击的大部分环节。这些攻击在&#34;少数情况下&#34;取得了成功。</p>
</div><p>&#34;At least one real-world incident has involved the use of semi-autonomous cyber capabilities, with humans intervening only at critical decision points,&#34; according to the AI safety report. &#34;Fully autonomous end-to-end attacks, however, have not been reported.&#34;</p>
<div class="lb-trans"><p>根据人工智能安全报告，&#34;至少有一起真实事件涉及使用半自主网络能力，只有在关键决策点人类才会介入。&#34;然而，尚未报告完全自主的端到端攻击。</p>
</div><p>Two areas where AI is especially useful to criminals are scanning for software vulnerabilities and writing malicious code.</p>
<div class="lb-trans"><p>人工智能在两个领域对犯罪分子尤其有用：扫描软件漏洞和编写恶意代码。</p>
</div><p>During DARPA's AI Cyber Challenge (AIxCC) – a two-year competition in which teams built AI models to find vulnerabilities in open source software that undergirds critical infrastructure – finalist systems autonomously identified 77 percent of the synthetic vulnerabilities used in the final scoring round, according to competition organizers.</p>
<div class="lb-trans"><p>在 DARPA 的人工智能网络挑战赛（AIxCC）中——这是一个为期两年的比赛，团队构建人工智能模型以发现支撑关键基础设施的开源软件中的漏洞——根据比赛组织者，决赛系统在最终评分轮中自主识别了 77% 的合成漏洞。</p>
</div><p>And while that is an example of defenders using AI to find and fix vulnerabilities, rather than attackers using AI to find and exploit them, criminals are using models in similar ways. Last northern summer, we saw attackers on underground forums claiming to use HexStrike AI, an open-source red-teaming tool, to target critical vulnerabilities in Citrix NetScaler appliances within hours of the vendor disclosing the problems.</p>
<div class="lb-trans"><p>虽然这是防御者使用人工智能发现和修复漏洞的例子，而不是攻击者使用人工智能发现和利用漏洞的例子，但犯罪分子也以类似方式使用模型。去年北半球夏季，我们看到攻击者在地下论坛上声称使用 HexStrike AI 这一开源红队工具，在供应商披露问题后的几个小时内，针对 Citrix NetScaler 设备的关键漏洞进行攻击。</p>
</div><ul>
<li>Yes, criminals are using AI to vibe-code malware</li>
<li>AI-powered cyberattack kits are 'just a matter of time,' warns Google exec</li>
<li>Agents gone wild! Companies give untrustworthy bots keys to the kingdom</li>
<li>DIY AI bot farm OpenClaw is a security 'dumpster fire'</li>
</ul>
<div class="lb-trans"><ul>
<li>是的，犯罪分子正在使用人工智能编写恶意软件</li>
<li>谷歌高管警告，人工智能驱动的网络攻击工具 “只是时间问题”</li>
<li>代理失控！公司将不可信的机器人赋予王国的钥匙</li>
<li>DIY 人工智能机器人农场 OpenClaw 是一个安全的 “垃圾场”</li>
</ul>
</div><p>Additionally, AI systems are getting much better at malware writing, and criminals can trade weaponized models that write ransomware and data-stealing code for as little as $50 a month.</p>
<div class="lb-trans"><p>此外，人工智能系统在编写恶意软件方面的能力正在显著提升，犯罪分子可以以每月仅 50 美元的价格交易编写勒索软件和数据窃取代码的武器化模型。</p>
</div><p>The good news for now, according to the report’s authors, is that AI systems still aren't great at carrying out multi-stage attacks without human help.</p>
<div class="lb-trans"><p>根据报告作者的说法，目前的好消息是，人工智能系统在没有人类帮助的情况下，仍然无法很好地执行多阶段攻击。</p>
</div><p>&#34;Research suggests that autonomous attacks remain limited because AI systems cannot reliably execute long, multi-stage attack sequences,&#34; according to the report. &#34;For example, failures they exhibit include executing irrelevant commands, losing track of operational state, and failing to recover from simple errors without human intervention.&#34;</p>
<div class="lb-trans"><p>报告指出，&#34;研究表明，自主攻击仍然有限，因为人工智能系统无法可靠地执行长时间的多阶段攻击序列。&#34;例如，它们表现出的失败包括执行无关命令、失去操作状态的追踪，以及在没有人类干预的情况下无法从简单错误中恢复。</p>
</div><p>Keep in mind, however, that this all was written before the security dumpster fire that is OpenClaw – the AI agent previously known as Moltbot and Clawdbot – and Moltbook, the vibe-coded social media platform for AI agents.</p>
<div class="lb-trans"><p>然而，请记住，这一切都是在安全垃圾场 OpenClaw 之前写的——这个人工智能代理之前被称为 Moltbot 和 Clawdbot——以及 Moltbook，一个为人工智能代理提供的编程社交媒体平台。</p>
</div><p>So it's also entirely plausible that the world won't end with a sophisticated, autonomous multi-stage cyberattack dreamed up by a nation-state crew or criminal mastermind, but rather a single agent that goes off the rails. ®</p>
<div class="lb-trans"><p>因此，完全有可能的是，世界不会因为国家级团队或犯罪 mastermind 设计的复杂自主多阶段网络攻击而结束，而是因为一个失控的单一代理。®</p>
</div>

人工智能代理尚未能够完全自主执行网络攻击——但它们已经对犯罪分子非常有帮助