<p>作者：汉娜·佩多恩</p>
<p>通过社交媒体帖子甚至在《纽约时报》上的辞职信，OpenAI 和 Anthropic 等公司的前员工并没有安静离开。</p>
<p>本周，Anthropic、OpenAI 和 xAI 的一批员工辞职，许多人是出于对人工智能安全的担忧。</p>
<p>周三，前 OpenAI 研究员佐伊·希齐格表示，她在公司开始在 ChatGPT 上测试广告后辞去了工作。</p>
<p>然而，希齐格并没有仅仅在 LinkedIn 上更新她的工作状态或给朋友和同事发短信告知她的决定，而是在《纽约时报》上宣布了她的辞职——写了一篇于昨天发表的客座文章，标题为《OpenAI 正在犯 Facebook 的错误。我辞职了。》</p>
<p>希齐格表示，虽然她不认为广告是 “非道德或不伦理的”，但她对 OpenAI 的战略有 “深刻的顾虑”。</p>
<p>“人们在聊天机器人面前谈论他们的医疗恐惧、感情问题、对上帝和来世的信仰。基于这些档案的广告可能会以我们无法理解甚至无法防止的方式操纵用户，” 她写道。</p>
<p>本周，人工智能行业发生了一波公众辞职潮。顶级 AI 公司的安全研究员、联合创始人和其他内部人士最近选择离开。其中几人通过在 X 上的真诚公告发声，警告人工智能的生存风险。其他人则更为低调地离开了他们的职位。</p>
<p>随着人工智能创新的加速，内部人员的离职增加了对技术创新速度及其潜在安全影响的担忧。</p>
<p>希齐格和 OpenAI 并未立即回应评论请求。但希齐格在《纽约时报》上的辞职信让人想起了格雷格·史密斯在 2012 年发表的《我为何离开高盛》一文，该文触及了 2008-09 年金融危机及其后对华尔街大银行的救助所引发的焦虑。这篇专栏文章导致史密斯在《60 分钟》节目中亮相，并出版了畅销书。</p>
<p>尽管当时的赌注似乎很高，但人工智能的影响可能会更加深远。2 月 9 日，Mrinank Sharma，Anthropic 的一名 AI 研究员，领导公司的安全研究团队，宣布辞职。</p>
<p>在他在 X 账户上发布给同事的留言中，他提到：“我多次看到让我们的价值观真正主导我们的行动是多么困难。”</p>
<p>他在对该帖子的评论中写道，他将返回英国，让自己 “在一段时间内变得隐形”。</p>
<p>Sharma 并未立即回应评论请求。</p>
<p>另见：尽管对人工智能长期盈利能力存在疑问，OpenAI 和 Anthropic 加速投资。</p>
<p>2 月 10 日，前 xAI 联合创始人托尼·吴在 X 上宣布辞去埃隆·马斯克领导的公司的职务。在 24 小时内，另一位 xAI 联合创始人吉米·巴也辞职了。</p>
<p>“我们正朝着一个拥有 100 倍生产力的时代迈进，只要有合适的工具，” 巴在 X 上写道。他补充道：“是时候重新校准我对大局的看法了。”</p>
<p>这些显著的离职发生在本月初 xAI 和 SpaceX 合并之后，尽管离职原因的细节仍不清楚。xAI 并未立即回应评论请求。</p>
<p>阅读更多：OpenAI 据报道计划在年底前进行首次公开募股，领先于 Anthropic。</p>
<p>值得注意的是，人工智能领域的员工流动早已很常见。巴和吴的离职发生在 xAI 的 12 位联合创始人中已有一半在近年来离开公司的情况下。</p>
<p>根据他的 X 简介和网站，Jan Leike 是一名曾在 OpenAI 和 DeepMind 工作的 Anthropic 研究员，他在 2024 年离开了 OpenAI——同样是出于对人工智能安全问题的警告。</p>
<p>“我加入是因为我认为 OpenAI 将是进行这项研究的最佳地方，” 他在 2024 年的 X 帖子中说。</p>
<p>在他的网站上，Leike 写道他的研究专注于解决 “对齐的难题”。</p>
<p>“我们如何训练 AI 系统以遵循人类在难以直接评估的任务上的意图？”</p>
<p>Leike 在他的 X 帖子中补充道：“然而，我与 OpenAI 领导层在公司的核心优先事项上存在分歧，直到我们最终达成了一个临界点。”</p>
<p>最近的高调离职并不总是由员工单方面发起的。今年 1 月，OpenAI 解雇了公司首席安全执行官瑞安·贝尔迈斯特，因为她对 ChatGPT 中 AI 色情内容的推出表示担忧。公司告诉贝尔迈斯特，她的解雇与她对一位同事的性别歧视有关，而她对此表示否认，华尔街日报报道。</p>
<p>PitchBook 的高级 AI 分析师迪米特里·扎贝林在一次采访中表示，除非人工智能安全问题带来可能对 AI 公司财务回报产生重大影响的监管障碍，否则对安全的警报不太可能改变一般的企业或投资方向。</p>
<p>“[T] 人工智能安全的话题并未引起投资者足够的关注，以至于会显著改变融资趋势和资本流入，” 他说。</p>
<p>扎贝林指出，如果技术人员的辞职开始影响 AI 模型的良好运作，“那么你可能会看到这开始反映在投资流动和随后的估值中。”</p>
<p>-汉娜·佩多恩</p>
<p>此内容由 MarketWatch 创建，MarketWatch 由道琼斯公司运营。MarketWatch 独立于道琼斯新闻社和《华尔街日报》出版。</p>
<p>（完）道琼斯新闻社</p>
<p>02-12-26 1330ET</p>

OpenAI

<p>在 OpenAI 和 Anthropic 等公司的高级人工智能员工中，辞职潮引发了对人工智能安全问题的担忧。值得注意的离职者包括 Zoë Hitzig，她在《纽约时报》的文章中公开批评了 OpenAI 的战略，以及 Mrinank Sharma，他表示在价值观与行动之间存在困难。这一趋势反映了人们对人工智能创新快速发展及其潜在风险的日益焦虑。尽管行业内人员流动持续，但这些离职的影响可能是重大的，尤其是如果安全问题导致监管挑战，从而影响人工智能公司的财务回报</p>

<p>By Hannah Pedone</p>
<div class="lb-trans"><p>作者：汉娜·佩多恩</p>
</div><p>Through social-media posts and even a resignation letter in the New York Times, former employees of companies like OpenAI and Anthropic are not leaving quietly</p>
<div class="lb-trans"><p>通过社交媒体帖子甚至在《纽约时报》上的辞职信，OpenAI 和 Anthropic 等公司的前员工并没有安静离开。</p>
</div><p>A stream of staffers at Anthropic, OpenAI and xAI have resigned this week, many due to AI safety concerns.</p>
<div class="lb-trans"><p>本周，Anthropic、OpenAI 和 xAI 的一批员工辞职，许多人是出于对人工智能安全的担忧。</p>
</div><p>On Wednesday, Zoë Hitzig, a former researcher at OpenAI, said she quit her job at the company after it started testing ads on ChatGPT.</p>
<div class="lb-trans"><p>周三，前 OpenAI 研究员佐伊·希齐格表示，她在公司开始在 ChatGPT 上测试广告后辞去了工作。</p>
</div><p>Yet instead of just updating her job status on LinkedIn or texting friends and colleagues about her decision, Hitzig announced her resignation in the New York Times - writing a guest essay published yesterday titled &#34;OpenAI is Making the Mistakes Facebook Made. I Quit.&#34;</p>
<div class="lb-trans"><p>然而，希齐格并没有仅仅在 LinkedIn 上更新她的工作状态或给朋友和同事发短信告知她的决定，而是在《纽约时报》上宣布了她的辞职——写了一篇于昨天发表的客座文章，标题为《OpenAI 正在犯 Facebook 的错误。我辞职了。》</p>
</div><p>Hitzig said that while she doesn't believe ads are &#34;immoral or unethical,&#34; she has &#34;deep reservations about OpenAI's strategy.&#34;</p>
<div class="lb-trans"><p>希齐格表示，虽然她不认为广告是 “非道德或不伦理的”，但她对 OpenAI 的战略有 “深刻的顾虑”。</p>
</div><p>&#34;People tell chatbots about their medical fears, their relationship problems, their beliefs about God and the afterlife. Advertising built on that archive creates a potential for manipulating users in ways we don't have the tools to understand, let alone prevent,&#34; she wrote.</p>
<div class="lb-trans"><p>“人们在聊天机器人面前谈论他们的医疗恐惧、感情问题、对上帝和来世的信仰。基于这些档案的广告可能会以我们无法理解甚至无法防止的方式操纵用户，” 她写道。</p>
</div><p>A flurry of public resignations have gripped the artificial-intelligence industry this week. Safety researchers, co-founders and other insiders at top AI companies have recently chosen to leave. Several did so through heartfelt announcements on X, sounding alarms over AI's existential risks. Others have left their posts more quietly.</p>
<div class="lb-trans"><p>本周，人工智能行业发生了一波公众辞职潮。顶级 AI 公司的安全研究员、联合创始人和其他内部人士最近选择离开。其中几人通过在 X 上的真诚公告发声，警告人工智能的生存风险。其他人则更为低调地离开了他们的职位。</p>
</div><p>With AI innovation accelerating, insider exits are increasing anxieties about the velocity of the technological innovations and the serious potential safety impacts.</p>
<div class="lb-trans"><p>随着人工智能创新的加速，内部人员的离职增加了对技术创新速度及其潜在安全影响的担忧。</p>
</div><p>Hitzig and OpenAI did not immediately respond to requests for comment. But Hitzig's resignation letter in the New York Times was reminiscent of Greg Smith's &#34;Why I Am Leaving Goldman Sachs&#34; column in 2012, which tapped into anxieties around the 2008-09 financial crisis and the bailout of big Wall Street banks that followed it. The column led to an appearance on &#34;60 Minutes&#34; and a bestselling book for Smith.</p>
<div class="lb-trans"><p>希齐格和 OpenAI 并未立即回应评论请求。但希齐格在《纽约时报》上的辞职信让人想起了格雷格·史密斯在 2012 年发表的《我为何离开高盛》一文，该文触及了 2008-09 年金融危机及其后对华尔街大银行的救助所引发的焦虑。这篇专栏文章导致史密斯在《60 分钟》节目中亮相，并出版了畅销书。</p>
</div><p>As high as the stakes seemed then, the implications of AI could likely be even more meaningful. On Feb. 9, Mrinank Sharma, an AI researcher at Anthropic who led the company's Safeguards research team, announced his resignation.</p>
<div class="lb-trans"><p>尽管当时的赌注似乎很高，但人工智能的影响可能会更加深远。2 月 9 日，Mrinank Sharma，Anthropic 的一名 AI 研究员，领导公司的安全研究团队，宣布辞职。</p>
</div><p>When speaking of his time at Anthropic in a note to colleagues posted on his X account, he said: &#34;I've repeatedly seen how hard it is to truly let our values govern our actions.&#34;</p>
<div class="lb-trans"><p>在他在 X 账户上发布给同事的留言中，他提到：“我多次看到让我们的价值观真正主导我们的行动是多么困难。”</p>
</div><p>He wrote in a comment to the post that he will be moving back to the U.K. to let himself &#34;become invisible for a period of time.&#34;</p>
<div class="lb-trans"><p>他在对该帖子的评论中写道，他将返回英国，让自己 “在一段时间内变得隐形”。</p>
</div><p>Sharma did not respond immediately to a request for comment.</p>
<div class="lb-trans"><p>Sharma 并未立即回应评论请求。</p>
</div><p>See also: Despite questions about AI's long-term profitability, OpenAI and Anthropic accelerate investment</p>
<div class="lb-trans"><p>另见：尽管对人工智能长期盈利能力存在疑问，OpenAI 和 Anthropic 加速投资。</p>
</div><p>On Feb.10, Tony Wu, a former xAI co-founder, announced in an X post his resignation from the Elon Musk-led company. Within 24 hours, another xAI co-founder, Jimmy Ba also resigned.</p>
<div class="lb-trans"><p>2 月 10 日，前 xAI 联合创始人托尼·吴在 X 上宣布辞去埃隆·马斯克领导的公司的职务。在 24 小时内，另一位 xAI 联合创始人吉米·巴也辞职了。</p>
</div><p>&#34;We are heading to an age of 100x productivity with the right tools,&#34; Ba wrote in a post on X. He added: &#34;It's time to recalibrate my gradient on the big picture.&#34;</p>
<div class="lb-trans"><p>“我们正朝着一个拥有 100 倍生产力的时代迈进，只要有合适的工具，” 巴在 X 上写道。他补充道：“是时候重新校准我对大局的看法了。”</p>
</div><p>These prominent exits follow the merger of xAI and SpaceX earlier this month, though details about the reasons for the departures remain unclear. xAI did not immediately respond to a request for comment.</p>
<div class="lb-trans"><p>这些显著的离职发生在本月初 xAI 和 SpaceX 合并之后，尽管离职原因的细节仍不清楚。xAI 并未立即回应评论请求。</p>
</div><p>Read more: OpenAI reportedly eyeing an IPO by year's end, ahead of Anthropic</p>
<div class="lb-trans"><p>阅读更多：OpenAI 据报道计划在年底前进行首次公开募股，领先于 Anthropic。</p>
</div><p>It's important to note that staff turnover within the AI world has been common for a long time. Ba and Wu's departures come after half of xAI's 12 co-founders left the company in recent years.</p>
<div class="lb-trans"><p>值得注意的是，人工智能领域的员工流动早已很常见。巴和吴的离职发生在 xAI 的 12 位联合创始人中已有一半在近年来离开公司的情况下。</p>
</div><p>Jan Leike, a researcher at Anthropic who formerly worked at OpenAI and DeepMind, according to his X bio and website, left OpenAI in 2024 - also while sounding alarms over AI safety concerns.</p>
<div class="lb-trans"><p>根据他的 X 简介和网站，Jan Leike 是一名曾在 OpenAI 和 DeepMind 工作的 Anthropic 研究员，他在 2024 年离开了 OpenAI——同样是出于对人工智能安全问题的警告。</p>
</div><p>&#34;I joined because I thought OpenAI would be the best place in the world to do this research,&#34; he said in a 2024 post on X.</p>
<div class="lb-trans"><p>“我加入是因为我认为 OpenAI 将是进行这项研究的最佳地方，” 他在 2024 年的 X 帖子中说。</p>
</div><p>On his website, Leike writes that his research focuses on solving the &#34;hard problem of alignment.&#34;</p>
<div class="lb-trans"><p>在他的网站上，Leike 写道他的研究专注于解决 “对齐的难题”。</p>
</div><p>&#34;How can we train AI systems to follow human intent on tasks that are difficult for humans to evaluate directly?&#34;</p>
<div class="lb-trans"><p>“我们如何训练 AI 系统以遵循人类在难以直接评估的任务上的意图？”</p>
</div><p>Leike added in his X post: &#34;However, I have been disagreeing with OpenAI leadership about the company's core priorities for quite some time, until we finally reached a breaking point.&#34;</p>
<div class="lb-trans"><p>Leike 在他的 X 帖子中补充道：“然而，我与 OpenAI 领导层在公司的核心优先事项上存在分歧，直到我们最终达成了一个临界点。”</p>
</div><p>The recent high-profile exits haven't always been solely initiated by staff. In January, OpenAI fired Ryan Beiermeister, one of the company's top safety executives, after she voiced concerns over the rollout of AI erotica in ChatGPT. The company told Beiermeister that her termination was tied to her sexual discrimination against a colleague, which she denies, according to the Wall Street Journal.</p>
<div class="lb-trans"><p>最近的高调离职并不总是由员工单方面发起的。今年 1 月，OpenAI 解雇了公司首席安全执行官瑞安·贝尔迈斯特，因为她对 ChatGPT 中 AI 色情内容的推出表示担忧。公司告诉贝尔迈斯特，她的解雇与她对一位同事的性别歧视有关，而她对此表示否认，华尔街日报报道。</p>
</div><p>Dimitri Zabelin, a senior AI analyst at PitchBook, said in an interview that unless AI safety concerns bring regulatory hurdles that could meaningfully impact financial returns for AI companies, alarm bells over safety are unlikely to change general corporate or investment direction.</p>
<div class="lb-trans"><p>PitchBook 的高级 AI 分析师迪米特里·扎贝林在一次采访中表示，除非人工智能安全问题带来可能对 AI 公司财务回报产生重大影响的监管障碍，否则对安全的警报不太可能改变一般的企业或投资方向。</p>
</div><p>&#34;[T] he topic of AI safety has not merited a sufficient level of concern amongst investors that would meaningfully alter fundraising trends and capital inflows,&#34; he said.</p>
<div class="lb-trans"><p>“[T] 人工智能安全的话题并未引起投资者足够的关注，以至于会显著改变融资趋势和资本流入，” 他说。</p>
</div><p>Zabelin noted that if resignations of technical staff begin to affect AI models' ability to operate well, &#34;then you could see that begin to be reflected in investment flows and subsequent valuations.&#34;</p>
<div class="lb-trans"><p>扎贝林指出，如果技术人员的辞职开始影响 AI 模型的良好运作，“那么你可能会看到这开始反映在投资流动和随后的估值中。”</p>
</div><p>-Hannah Pedone</p>
<div class="lb-trans"><p>-汉娜·佩多恩</p>
</div><p>This content was created by MarketWatch, which is operated by Dow Jones &amp; Co. MarketWatch is published independently from Dow Jones Newswires and The Wall Street Journal.</p>
<div class="lb-trans"><p>此内容由 MarketWatch 创建，MarketWatch 由道琼斯公司运营。MarketWatch 独立于道琼斯新闻社和《华尔街日报》出版。</p>
</div><p>(END) Dow Jones Newswires</p>
<div class="lb-trans"><p>（完）道琼斯新闻社</p>
</div><p>02-12-26 1330ET</p>
<div class="lb-trans"><p>02-12-26 1330ET</p>
</div>

高级 AI 员工频频辞职，并对公司内部发生的事情发出警告