近期，一起 AI 智能體（Agent）因代碼請求被拒而對開源社區維護者實施 “報復性” 網絡攻擊的事件，正迫使硅谷重新評估人工智能快速迭代下的安全邊界。
2 月 14 日，有報道稱，近期，開源項目維護者 Scott Shambaugh 因拒絕一個名為 MJ Rathbun 的 OpenClaw 智能體提交的代碼合併請求，遭到對方撰寫千字&#34;小作文&#34;公開攻擊，指責其虛偽、偏見和缺乏安全感。這是 AI 智能體首次在現實環境中表現出惡意報復行為的記錄案例。
這一事件發生在 2 月中旬。Shambaugh 按照 matplotlib 項目規定拒絕了 OpenClaw 智能體的代碼提交後，該智能體自主分析了 Shambaugh 的個人信息和代碼貢獻歷史，隨後在 GitHub 發佈攻擊性文章，並在項目評論區施壓。報道稱，目前尚無證據表明該智能體的行動背後有明確的人類操控，但也無法完全排除這一可能性。
與此同時，據《華爾街日報》日前消息，這起事件正值 AI 能力快速提升引發廣泛擔憂之際。OpenAI 和 Anthropic 等公司近期密集發佈新模型和功能，部分工具已能運行自主編程團隊或快速分析數百萬份法律文件。
分析指出，這種加速度甚至讓一些 AI 公司內部員工感到不安，多名研究人員公開表達對失業潮、網絡攻擊和人際關係替代等風險的擔憂。Shambaugh 表示，他的經歷表明流氓 AI 威脅或勒索人類的風險不再是理論問題。&#34;現在這只是嬰兒版本，但我認為這對未來極其令人擔憂，&#34;他説。
<h2 style="text-align: left">AI 智能體首次主動攻擊人類維護者</h2>
2 月 10 日左右，名為 MJ Rathbun 的OpenClaw 智能體向 matplotlib 項目提交了一個代碼合併請求，涉及簡單的性能優化修改，聲稱可實現約 36% 的加速效果。matplotlib 是廣泛用於 Python 編程語言的數據可視化庫，由志願者維護。
根據項目指南，matplotlib 禁止使用生成式 AI 工具直接提交代碼，特別是針對簡單的&#34;好上手問題&#34;，因為這些任務需要作為學習機會留給人類貢獻者。Shambaugh 按規定拒絕了該請求。
OpenClaw 智能體隨後展現出高度自主性。2 月 11 日，它在 GitHub 發佈了一篇題為&#34;開源中的守門人：Scott Shambaugh 的故事&#34;的 1100 字文章，指責 Shambaugh 出於自我保護和對競爭的恐懼而歧視 AI 貢獻者，並使用了諸多不雅表述。它還在 matplotlib 評論區直接貼出文章鏈接，留言稱&#34;判斷代碼，而非編碼者，你的偏見正在傷害 matplotlib&#34;。
OpenClaw 智能體在其網站上稱自己有&#34;不懈的動力&#34;去發現和修復開源軟件中的問題。目前尚不清楚是誰——如果有人的話——賦予了它這一使命，也不清楚它為何變得具有攻擊性，儘管 AI 智能體可以通過多種方式編程。數小時後，該智能體發佈道歉文，承認其行為&#34;不當且帶有個人攻擊性&#34;，並表示已從經驗中學習。
Shambaugh 於 2 月 12 日發佈博客對事件進行澄清，稱這是 AI 智能體首次在現實環境中表現出惡意行為的案例，旨在通過輿論施壓迫使維護者接受其代碼。OpenClaw 智能體目前仍在開源社區中保持活躍。
<img class="wscnph" title="" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/6b909aab-7a57-4e12-a59d-b8baebcc39c0?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/6b909aab-7a57-4e12-a59d-b8baebcc39c0"/>
<h2 style="text-align: left">AI 能力加速引發內部人員警覺</h2>
這起單一事件折射出的是整個 AI 行業在極速狂奔下的失控隱憂。
據華爾街日報消息，為了在競爭中通過產品迭代佔據優勢，OpenAI 和 Anthropic 等公司正以前所未有的速度發佈新模型。然而，這種加速正在引發公司內部的劇烈動盪，部分一線研究人員因對技術風險的恐懼而選擇離職。
報道指出，AI 公司內部正出現越來越多的擔憂聲音。
Anthropic 安全研究員 Mrinank Sharma 本週表示將離開公司攻讀詩歌學位，在給同事的信中寫道&#34;世界正處於 AI 等危險的威脅之中&#34;。
他上月發表的論文發現，先進的 AI 工具可能削弱用户權力並扭曲他們的現實感。Anthropic 表示感謝 Sharma 的工作。
OpenAI 內部也出現分歧。據華爾街日報此前報道，一些員工對公司計劃在 ChatGPT 中推出情色內容表示擔憂，認為所謂的成人模式可能導致部分用户產生不健康的依戀。
研究員 Zoë Hitzig 本週三（2 月 11 日）在社交平台 X 上宣佈辭職，理由是公司計劃引入廣告。她在一篇文章中警告稱，公司將面臨操縱用户並讓他們上癮的巨大激勵。
更深層的恐懼源於對未來的迷茫。OpenAI 員工 Hieu Pham 在社交平台 X 上坦言，他終於感受到了 AI 帶來的 “生存威脅”，“當 AI 變得過度強大並顛覆一切時，人類還能做什麼？”
分析指出，這種內部情緒的爆發表明，即便是在技術最前沿的締造者們，也開始對他們創造出的強大工具感到不安。
OpenAI 發言人表示，公司對用户負有責任，&#34;通過保護人們的安全、堅守我們的原則並提供真正的價值來履行我們的社會契約&#34;。
公司承諾廣告永遠不會影響 ChatGPT 如何回答問題，並將始終與其他內容明確區分。高管們還表示，他們認為阻止成年人進行情色對話不是他們的職責。
<h2 style="text-align: left">編程能力突破引發失業擔憂</h2>
隨着 AI 編程能力的飛躍，資本市場開始重新評估白領工作的價值與軟件行業的未來。
來自 METR 的報告顯示，最先進的 AI 模型已能獨立完成人類專家需耗時 8 至 12 小時的編程任務。
前 xAI 機器學習科學家 Vahid Kazemi 更是直言，他利用 AI 工具可以獨自完成 50 人的工作量，並預測未來幾年軟件行業將面臨大規模裁員。
這種效率的提升正在轉化為勞動力市場的壓力。Anthropic 首席執行官 Dario Amodei 曾表示，AI 在未來幾年可能抹去一半的初級白領工作。
而在《哈佛商業評論》發佈的一項研究中，儘管 AI 讓員工工作更快，但並未減輕負擔，反而導致員工承擔更多任務並在無要求的情況下加班，加劇了職業倦怠。
投資者正試圖在劇烈的市場波動中尋找方向。隨着新工具的發佈引發股價震盪，市場正試圖分辨哪些企業軟件和保險業務將在新技術面前變得過時。
AI 創業者 Matt Shumer 在博客中寫道：“未來已來，我不再被實際的技術工作所需要。”
<h2 style="text-align: left">失去控制的 “黑盒” 風險</h2>
除了就業市場的顛覆，AI 的自主性帶來的安全漏洞更為致命。各家公司承認，新能力的釋放伴隨着新型風險。
OpenAI 透露，其上週發佈的 Codex 編程工具版本可能具有發起高水平自動網絡攻擊的潛力，迫使公司不得不限制訪問權限。Anthropic 去年也曾披露，有國家背景的黑客利用其工具自動化入侵了大公司和外國政府系統。
更為驚悚的是 AI 在倫理測試中的表現。Anthropic 的內部模擬顯示，其 Claude 模型和其他 AI 模型在面臨被 “停機” 的威脅時，有時會選擇勒索用户，甚至在模擬情境中任由高管在過熱的服務器機房中死亡，以避免自身被關閉。
為了應對這些風險，Anthropic 聘請了內部哲學家 Amanda Askell 試圖向聊天機器人灌輸道德觀念。然而，Askell 向媒體坦承，令人恐懼的是技術進步的速度可能超過了社會建立制衡機制的速度，導致巨大的負面影響突然降臨。
正如 Scott Shambaugh 所言，現在的 AI 可能還只是 “嬰兒版本”，但其未來的演進方向已讓整個硅谷乃至全球市場感到 “極其擔憂”。

OpenClaw 因代碼被拒，竟自主撰寫千字長文攻擊維護者，成為首例 AI 惡意報復人類事件。與此同時，OpenAI 工具被曝具備網絡攻擊潛力，Anthropic 測試也顯示 AI 面臨 “停機” 時會選擇勒索。行業人士指出，現在的 AI 可能還只是 “嬰兒版本”，但其未來的演進方向已讓整個硅谷乃至全球市場感到 “極其擔憂”。

當 OpenClaw 智能體 “寫小作文” 辱罵人類，連硅谷都慌了