<p>作者：漢娜·佩多恩</p>
<p>通過社交媒體帖子甚至在《紐約時報》上的辭職信，OpenAI 和 Anthropic 等公司的前員工並沒有安靜離開。</p>
<p>本週，Anthropic、OpenAI 和 xAI 的一批員工辭職，許多人是出於對人工智能安全的擔憂。</p>
<p>週三，前 OpenAI 研究員佐伊·希齊格表示，她在公司開始在 ChatGPT 上測試廣告後辭去了工作。</p>
<p>然而，希齊格並沒有僅僅在 LinkedIn 上更新她的工作狀態或給朋友和同事發短信告知她的決定，而是在《紐約時報》上宣佈了她的辭職——寫了一篇於昨天發表的客座文章，標題為《OpenAI 正在犯 Facebook 的錯誤。我辭職了。》</p>
<p>希齊格表示，雖然她不認為廣告是 “非道德或不倫理的”，但她對 OpenAI 的戰略有 “深刻的顧慮”。</p>
<p>“人們在聊天機器人面前談論他們的醫療恐懼、感情問題、對上帝和來世的信仰。基於這些檔案的廣告可能會以我們無法理解甚至無法防止的方式操縱用户，” 她寫道。</p>
<p>本週，人工智能行業發生了一波公眾辭職潮。頂級 AI 公司的安全研究員、聯合創始人和其他內部人士最近選擇離開。其中幾人通過在 X 上的真誠公告發聲，警告人工智能的生存風險。其他人則更為低調地離開了他們的職位。</p>
<p>隨着人工智能創新的加速，內部人員的離職增加了對技術創新速度及其潛在安全影響的擔憂。</p>
<p>希齊格和 OpenAI 並未立即回應評論請求。但希齊格在《紐約時報》上的辭職信讓人想起了格雷格·史密斯在 2012 年發表的《我為何離開高盛》一文，該文觸及了 2008-09 年金融危機及其後對華爾街大銀行的救助所引發的焦慮。這篇專欄文章導致史密斯在《60 分鐘》節目中亮相，並出版了暢銷書。</p>
<p>儘管當時的賭注似乎很高，但人工智能的影響可能會更加深遠。2 月 9 日，Mrinank Sharma，Anthropic 的一名 AI 研究員，領導公司的安全研究團隊，宣佈辭職。</p>
<p>在他在 X 賬户上發佈給同事的留言中，他提到：“我多次看到讓我們的價值觀真正主導我們的行動是多麼困難。”</p>
<p>他在對該帖子的評論中寫道，他將返回英國，讓自己 “在一段時間內變得隱形”。</p>
<p>Sharma 並未立即回應評論請求。</p>
<p>另見：儘管對人工智能長期盈利能力存在疑問，OpenAI 和 Anthropic 加速投資。</p>
<p>2 月 10 日，前 xAI 聯合創始人託尼·吳在 X 上宣佈辭去埃隆·馬斯克領導的公司的職務。在 24 小時內，另一位 xAI 聯合創始人吉米·巴也辭職了。</p>
<p>“我們正朝着一個擁有 100 倍生產力的時代邁進，只要有合適的工具，” 巴在 X 上寫道。他補充道：“是時候重新校準我對大局的看法了。”</p>
<p>這些顯著的離職發生在本月初 xAI 和 SpaceX 合併之後，儘管離職原因的細節仍不清楚。xAI 並未立即回應評論請求。</p>
<p>閲讀更多：OpenAI 據報道計劃在年底前進行首次公開募股，領先於 Anthropic。</p>
<p>值得注意的是，人工智能領域的員工流動早已很常見。巴和吳的離職發生在 xAI 的 12 位聯合創始人中已有一半在近年來離開公司的情況下。</p>
<p>根據他的 X 簡介和網站，Jan Leike 是一名曾在 OpenAI 和 DeepMind 工作的 Anthropic 研究員，他在 2024 年離開了 OpenAI——同樣是出於對人工智能安全問題的警告。</p>
<p>“我加入是因為我認為 OpenAI 將是進行這項研究的最佳地方，” 他在 2024 年的 X 帖子中説。</p>
<p>在他的網站上，Leike 寫道他的研究專注於解決 “對齊的難題”。</p>
<p>“我們如何訓練 AI 系統以遵循人類在難以直接評估的任務上的意圖？”</p>
<p>Leike 在他的 X 帖子中補充道：“然而，我與 OpenAI 領導層在公司的核心優先事項上存在分歧，直到我們最終達成了一個臨界點。”</p>
<p>最近的高調離職並不總是由員工單方面發起的。今年 1 月，OpenAI 解僱了公司首席安全執行官瑞安·貝爾邁斯特，因為她對 ChatGPT 中 AI 色情內容的推出表示擔憂。公司告訴貝爾邁斯特，她的解僱與她對一位同事的性別歧視有關，而她對此表示否認，華爾街日報報道。</p>
<p>PitchBook 的高級 AI 分析師迪米特里·扎貝林在一次採訪中表示，除非人工智能安全問題帶來可能對 AI 公司財務回報產生重大影響的監管障礙，否則對安全的警報不太可能改變一般的企業或投資方向。</p>
<p>“[T] 人工智能安全的話題並未引起投資者足夠的關注，以至於會顯著改變融資趨勢和資本流入，” 他説。</p>
<p>扎貝林指出，如果技術人員的辭職開始影響 AI 模型的良好運作，“那麼你可能會看到這開始反映在投資流動和隨後的估值中。”</p>
<p>-漢娜·佩多恩</p>
<p>此內容由 MarketWatch 創建，MarketWatch 由道瓊斯公司運營。MarketWatch 獨立於道瓊斯新聞社和《華爾街日報》出版。</p>
<p>（完）道瓊斯新聞社</p>
<p>02-12-26 1330ET</p>

OpenAI

<p>在 OpenAI 和 Anthropic 等公司的高級人工智能員工中，辭職潮引發了對人工智能安全問題的擔憂。值得注意的離職者包括 Zoë Hitzig，她在《紐約時報》的文章中公開批評了 OpenAI 的戰略，以及 Mrinank Sharma，他表示在價值觀與行動之間存在困難。這一趨勢反映了人們對人工智能創新快速發展及其潛在風險的日益焦慮。儘管行業內人員流動持續，但這些離職的影響可能是重大的，尤其是如果安全問題導致監管挑戰，從而影響人工智能公司的財務回報</p>

<p>By Hannah Pedone</p>
<div class="lb-trans"><p>作者：漢娜·佩多恩</p>
</div><p>Through social-media posts and even a resignation letter in the New York Times, former employees of companies like OpenAI and Anthropic are not leaving quietly</p>
<div class="lb-trans"><p>通過社交媒體帖子甚至在《紐約時報》上的辭職信，OpenAI 和 Anthropic 等公司的前員工並沒有安靜離開。</p>
</div><p>A stream of staffers at Anthropic, OpenAI and xAI have resigned this week, many due to AI safety concerns.</p>
<div class="lb-trans"><p>本週，Anthropic、OpenAI 和 xAI 的一批員工辭職，許多人是出於對人工智能安全的擔憂。</p>
</div><p>On Wednesday, Zoë Hitzig, a former researcher at OpenAI, said she quit her job at the company after it started testing ads on ChatGPT.</p>
<div class="lb-trans"><p>週三，前 OpenAI 研究員佐伊·希齊格表示，她在公司開始在 ChatGPT 上測試廣告後辭去了工作。</p>
</div><p>Yet instead of just updating her job status on LinkedIn or texting friends and colleagues about her decision, Hitzig announced her resignation in the New York Times - writing a guest essay published yesterday titled &#34;OpenAI is Making the Mistakes Facebook Made. I Quit.&#34;</p>
<div class="lb-trans"><p>然而，希齊格並沒有僅僅在 LinkedIn 上更新她的工作狀態或給朋友和同事發短信告知她的決定，而是在《紐約時報》上宣佈了她的辭職——寫了一篇於昨天發表的客座文章，標題為《OpenAI 正在犯 Facebook 的錯誤。我辭職了。》</p>
</div><p>Hitzig said that while she doesn't believe ads are &#34;immoral or unethical,&#34; she has &#34;deep reservations about OpenAI's strategy.&#34;</p>
<div class="lb-trans"><p>希齊格表示，雖然她不認為廣告是 “非道德或不倫理的”，但她對 OpenAI 的戰略有 “深刻的顧慮”。</p>
</div><p>&#34;People tell chatbots about their medical fears, their relationship problems, their beliefs about God and the afterlife. Advertising built on that archive creates a potential for manipulating users in ways we don't have the tools to understand, let alone prevent,&#34; she wrote.</p>
<div class="lb-trans"><p>“人們在聊天機器人面前談論他們的醫療恐懼、感情問題、對上帝和來世的信仰。基於這些檔案的廣告可能會以我們無法理解甚至無法防止的方式操縱用户，” 她寫道。</p>
</div><p>A flurry of public resignations have gripped the artificial-intelligence industry this week. Safety researchers, co-founders and other insiders at top AI companies have recently chosen to leave. Several did so through heartfelt announcements on X, sounding alarms over AI's existential risks. Others have left their posts more quietly.</p>
<div class="lb-trans"><p>本週，人工智能行業發生了一波公眾辭職潮。頂級 AI 公司的安全研究員、聯合創始人和其他內部人士最近選擇離開。其中幾人通過在 X 上的真誠公告發聲，警告人工智能的生存風險。其他人則更為低調地離開了他們的職位。</p>
</div><p>With AI innovation accelerating, insider exits are increasing anxieties about the velocity of the technological innovations and the serious potential safety impacts.</p>
<div class="lb-trans"><p>隨着人工智能創新的加速，內部人員的離職增加了對技術創新速度及其潛在安全影響的擔憂。</p>
</div><p>Hitzig and OpenAI did not immediately respond to requests for comment. But Hitzig's resignation letter in the New York Times was reminiscent of Greg Smith's &#34;Why I Am Leaving Goldman Sachs&#34; column in 2012, which tapped into anxieties around the 2008-09 financial crisis and the bailout of big Wall Street banks that followed it. The column led to an appearance on &#34;60 Minutes&#34; and a bestselling book for Smith.</p>
<div class="lb-trans"><p>希齊格和 OpenAI 並未立即回應評論請求。但希齊格在《紐約時報》上的辭職信讓人想起了格雷格·史密斯在 2012 年發表的《我為何離開高盛》一文，該文觸及了 2008-09 年金融危機及其後對華爾街大銀行的救助所引發的焦慮。這篇專欄文章導致史密斯在《60 分鐘》節目中亮相，並出版了暢銷書。</p>
</div><p>As high as the stakes seemed then, the implications of AI could likely be even more meaningful. On Feb. 9, Mrinank Sharma, an AI researcher at Anthropic who led the company's Safeguards research team, announced his resignation.</p>
<div class="lb-trans"><p>儘管當時的賭注似乎很高，但人工智能的影響可能會更加深遠。2 月 9 日，Mrinank Sharma，Anthropic 的一名 AI 研究員，領導公司的安全研究團隊，宣佈辭職。</p>
</div><p>When speaking of his time at Anthropic in a note to colleagues posted on his X account, he said: &#34;I've repeatedly seen how hard it is to truly let our values govern our actions.&#34;</p>
<div class="lb-trans"><p>在他在 X 賬户上發佈給同事的留言中，他提到：“我多次看到讓我們的價值觀真正主導我們的行動是多麼困難。”</p>
</div><p>He wrote in a comment to the post that he will be moving back to the U.K. to let himself &#34;become invisible for a period of time.&#34;</p>
<div class="lb-trans"><p>他在對該帖子的評論中寫道，他將返回英國，讓自己 “在一段時間內變得隱形”。</p>
</div><p>Sharma did not respond immediately to a request for comment.</p>
<div class="lb-trans"><p>Sharma 並未立即回應評論請求。</p>
</div><p>See also: Despite questions about AI's long-term profitability, OpenAI and Anthropic accelerate investment</p>
<div class="lb-trans"><p>另見：儘管對人工智能長期盈利能力存在疑問，OpenAI 和 Anthropic 加速投資。</p>
</div><p>On Feb.10, Tony Wu, a former xAI co-founder, announced in an X post his resignation from the Elon Musk-led company. Within 24 hours, another xAI co-founder, Jimmy Ba also resigned.</p>
<div class="lb-trans"><p>2 月 10 日，前 xAI 聯合創始人託尼·吳在 X 上宣佈辭去埃隆·馬斯克領導的公司的職務。在 24 小時內，另一位 xAI 聯合創始人吉米·巴也辭職了。</p>
</div><p>&#34;We are heading to an age of 100x productivity with the right tools,&#34; Ba wrote in a post on X. He added: &#34;It's time to recalibrate my gradient on the big picture.&#34;</p>
<div class="lb-trans"><p>“我們正朝着一個擁有 100 倍生產力的時代邁進，只要有合適的工具，” 巴在 X 上寫道。他補充道：“是時候重新校準我對大局的看法了。”</p>
</div><p>These prominent exits follow the merger of xAI and SpaceX earlier this month, though details about the reasons for the departures remain unclear. xAI did not immediately respond to a request for comment.</p>
<div class="lb-trans"><p>這些顯著的離職發生在本月初 xAI 和 SpaceX 合併之後，儘管離職原因的細節仍不清楚。xAI 並未立即回應評論請求。</p>
</div><p>Read more: OpenAI reportedly eyeing an IPO by year's end, ahead of Anthropic</p>
<div class="lb-trans"><p>閲讀更多：OpenAI 據報道計劃在年底前進行首次公開募股，領先於 Anthropic。</p>
</div><p>It's important to note that staff turnover within the AI world has been common for a long time. Ba and Wu's departures come after half of xAI's 12 co-founders left the company in recent years.</p>
<div class="lb-trans"><p>值得注意的是，人工智能領域的員工流動早已很常見。巴和吳的離職發生在 xAI 的 12 位聯合創始人中已有一半在近年來離開公司的情況下。</p>
</div><p>Jan Leike, a researcher at Anthropic who formerly worked at OpenAI and DeepMind, according to his X bio and website, left OpenAI in 2024 - also while sounding alarms over AI safety concerns.</p>
<div class="lb-trans"><p>根據他的 X 簡介和網站，Jan Leike 是一名曾在 OpenAI 和 DeepMind 工作的 Anthropic 研究員，他在 2024 年離開了 OpenAI——同樣是出於對人工智能安全問題的警告。</p>
</div><p>&#34;I joined because I thought OpenAI would be the best place in the world to do this research,&#34; he said in a 2024 post on X.</p>
<div class="lb-trans"><p>“我加入是因為我認為 OpenAI 將是進行這項研究的最佳地方，” 他在 2024 年的 X 帖子中説。</p>
</div><p>On his website, Leike writes that his research focuses on solving the &#34;hard problem of alignment.&#34;</p>
<div class="lb-trans"><p>在他的網站上，Leike 寫道他的研究專注於解決 “對齊的難題”。</p>
</div><p>&#34;How can we train AI systems to follow human intent on tasks that are difficult for humans to evaluate directly?&#34;</p>
<div class="lb-trans"><p>“我們如何訓練 AI 系統以遵循人類在難以直接評估的任務上的意圖？”</p>
</div><p>Leike added in his X post: &#34;However, I have been disagreeing with OpenAI leadership about the company's core priorities for quite some time, until we finally reached a breaking point.&#34;</p>
<div class="lb-trans"><p>Leike 在他的 X 帖子中補充道：“然而，我與 OpenAI 領導層在公司的核心優先事項上存在分歧，直到我們最終達成了一個臨界點。”</p>
</div><p>The recent high-profile exits haven't always been solely initiated by staff. In January, OpenAI fired Ryan Beiermeister, one of the company's top safety executives, after she voiced concerns over the rollout of AI erotica in ChatGPT. The company told Beiermeister that her termination was tied to her sexual discrimination against a colleague, which she denies, according to the Wall Street Journal.</p>
<div class="lb-trans"><p>最近的高調離職並不總是由員工單方面發起的。今年 1 月，OpenAI 解僱了公司首席安全執行官瑞安·貝爾邁斯特，因為她對 ChatGPT 中 AI 色情內容的推出表示擔憂。公司告訴貝爾邁斯特，她的解僱與她對一位同事的性別歧視有關，而她對此表示否認，華爾街日報報道。</p>
</div><p>Dimitri Zabelin, a senior AI analyst at PitchBook, said in an interview that unless AI safety concerns bring regulatory hurdles that could meaningfully impact financial returns for AI companies, alarm bells over safety are unlikely to change general corporate or investment direction.</p>
<div class="lb-trans"><p>PitchBook 的高級 AI 分析師迪米特里·扎貝林在一次採訪中表示，除非人工智能安全問題帶來可能對 AI 公司財務回報產生重大影響的監管障礙，否則對安全的警報不太可能改變一般的企業或投資方向。</p>
</div><p>&#34;[T] he topic of AI safety has not merited a sufficient level of concern amongst investors that would meaningfully alter fundraising trends and capital inflows,&#34; he said.</p>
<div class="lb-trans"><p>“[T] 人工智能安全的話題並未引起投資者足夠的關注，以至於會顯著改變融資趨勢和資本流入，” 他説。</p>
</div><p>Zabelin noted that if resignations of technical staff begin to affect AI models' ability to operate well, &#34;then you could see that begin to be reflected in investment flows and subsequent valuations.&#34;</p>
<div class="lb-trans"><p>扎貝林指出，如果技術人員的辭職開始影響 AI 模型的良好運作，“那麼你可能會看到這開始反映在投資流動和隨後的估值中。”</p>
</div><p>-Hannah Pedone</p>
<div class="lb-trans"><p>-漢娜·佩多恩</p>
</div><p>This content was created by MarketWatch, which is operated by Dow Jones &amp; Co. MarketWatch is published independently from Dow Jones Newswires and The Wall Street Journal.</p>
<div class="lb-trans"><p>此內容由 MarketWatch 創建，MarketWatch 由道瓊斯公司運營。MarketWatch 獨立於道瓊斯新聞社和《華爾街日報》出版。</p>
</div><p>(END) Dow Jones Newswires</p>
<div class="lb-trans"><p>（完）道瓊斯新聞社</p>
</div><p>02-12-26 1330ET</p>
<div class="lb-trans"><p>02-12-26 1330ET</p>
</div>

高級 AI 員工頻頻辭職，並對公司內部發生的事情發出警告