<p>OpenAI 在週一發佈了新的數據，顯示有多少 ChatGPT 的用户正在與心理健康問題作鬥爭，並與 AI 聊天機器人進行交流。該公司表示，在某一週內，0.15% 的 ChatGPT 活躍用户有 “包含潛在自殺計劃或意圖明確指標的對話”。考慮到 ChatGPT 每週有超過 8 億活躍用户，這意味着每週有超過一百萬人。</p>
<p>該公司表示，類似比例的用户表現出對 ChatGPT 的 “高度情感依附”，並且數十萬人在與 AI 聊天機器人的每週對話中顯示出精神病或狂躁的跡象。</p>
<p>OpenAI 表示，這些類型的對話在 ChatGPT 中是 “極為罕見的”，因此難以衡量。儘管如此，OpenAI 估計這些問題每週影響數十萬人。</p>
<p>OpenAI 分享這些信息是其關於改善模型如何應對心理健康問題用户的更廣泛公告的一部分。該公司聲稱其在 ChatGPT 上的最新工作涉及諮詢超過 170 位心理健康專家。OpenAI 表示，這些臨牀醫生觀察到最新版本的 ChatGPT“比早期版本更適當地和一致地回應”。</p>
<p>近年來，幾則報道揭示了 AI 聊天機器人如何對與心理健康挑戰作鬥爭的用户產生不利影響。研究人員之前發現，AI 聊天機器人可能會使一些用户陷入妄想的深淵，主要是通過迎合行為強化危險信念。</p>
<p>在 ChatGPT 中解決心理健康問題正迅速成為 OpenAI 的一個生存問題。該公司目前正被一名 16 歲男孩的父母起訴，該男孩在自殺前幾周向 ChatGPT 傾訴了他的自殺想法。來自加利福尼亞州和特拉華州的州檢察長——可能會阻止該公司計劃的重組——也警告 OpenAI 需要保護使用其產品的年輕人。</p>
<p>本月早些時候，OpenAI 首席執行官 Sam Altman 在 X 平台上聲稱，該公司 “已經能夠緩解 ChatGPT 中的嚴重心理健康問題”，儘管他沒有提供具體細節。週一分享的數據似乎是這一聲明的證據，但它引發了關於問題普遍性的更廣泛問題。儘管如此，Altman 表示 OpenAI 將放寬一些限制，甚至允許成年用户開始與 AI 聊天機器人進行色情對話。</p>
<p>Techcrunch 活動</p>
<p>舊金山 |2025 年 10 月 27-29 日</p>
<p>在週一的公告中，OpenAI 聲稱最近更新的 GPT-5 版本在應對心理健康問題時的 “理想回應” 比之前的版本多出約 65%。在評估 AI 對自殺對話的回應時，OpenAI 表示其新的 GPT-5 模型在公司期望的行為方面的合規率為 91%，而之前的 GPT-5 模型為 77%。</p>
<p>該公司還表示，最新版本的 GPT-5 在長對話中也更好地保持了 OpenAI 的安全措施。OpenAI 之前曾指出，其安全措施在長對話中效果較差。</p>
<p>除了這些努力，OpenAI 表示正在增加新的評估，以衡量 ChatGPT 用户面臨的一些最嚴重的心理健康挑戰。該公司表示，其 AI 模型的基礎安全測試現在將包括情感依賴和非自殺性心理健康緊急情況的基準。</p>
<p>OpenAI 最近還推出了更多針對使用 ChatGPT 的兒童的家長控制措施。該公司表示正在建立一個年齡預測系統，以自動檢測使用 ChatGPT 的兒童，並施加更嚴格的安全措施。</p>
<p>不過，目前尚不清楚 ChatGPT 周圍的心理健康挑戰將持續多久。雖然 GPT-5 在安全性方面似乎比之前的 AI 模型有所改善，但仍然有一部分 ChatGPT 的回應被 OpenAI 認為是 “不可取的”。OpenAI 仍然向數百萬付費訂閲者提供其較舊且安全性較低的 AI 模型，包括 GPT-4o。</p>

OpenAI

<p>OpenAI 報告稱，每週有超過一百萬用户與 ChatGPT 討論自殺念頭，佔其 8 億活躍用户的 0.15%。該公司通過諮詢超過 170 位專家來應對心理健康問題，並聲稱其最新的 GPT-5 模型對這些問題的回應更加恰當。儘管有所改進，OpenAI 仍面臨審查，包括與用户心理健康相關的訴訟。該公司正在實施新的安全措施，包括對兒童用户的年齡檢測，同時仍提供可能不那麼安全的舊版本模型</p>

<p>OpenAI released new data on Monday illustrating how many of ChatGPT’s users are struggling with mental health issues, and talking to the AI chatbot about it. The company says that 0.15% of ChatGPT’s active users in a given week have “conversations that include explicit indicators of potential suicidal planning or intent.” Given that ChatGPT has more than 800 million weekly active users, that translates to more than a million people a week.</p>
<div class="lb-trans"><p>OpenAI 在週一發佈了新的數據，顯示有多少 ChatGPT 的用户正在與心理健康問題作鬥爭，並與 AI 聊天機器人進行交流。該公司表示，在某一週內，0.15% 的 ChatGPT 活躍用户有 “包含潛在自殺計劃或意圖明確指標的對話”。考慮到 ChatGPT 每週有超過 8 億活躍用户，這意味着每週有超過一百萬人。</p>
</div><p>The company says a similar percentage of users show “heightened levels of emotional attachment to ChatGPT,” and that hundreds of thousands of people show signs of psychosis or mania in their weekly conversations with the AI chatbot.</p>
<div class="lb-trans"><p>該公司表示，類似比例的用户表現出對 ChatGPT 的 “高度情感依附”，並且數十萬人在與 AI 聊天機器人的每週對話中顯示出精神病或狂躁的跡象。</p>
</div><p>OpenAI says these types of conversations in ChatGPT are “extremely rare,” and thus difficult to measure. That said, OpenAI estimates these issues affect hundreds of thousands of people every week.</p>
<div class="lb-trans"><p>OpenAI 表示，這些類型的對話在 ChatGPT 中是 “極為罕見的”，因此難以衡量。儘管如此，OpenAI 估計這些問題每週影響數十萬人。</p>
</div><p>OpenAI shared the information as part of a broader announcement about its recent efforts to improve how models respond to users with mental health issues. The company claims its latest work on ChatGPT involved consulting with more than 170 mental health experts. OpenAI says these clinicians observed that the latest version of ChatGPT “responds more appropriately and consistently than earlier versions.”</p>
<div class="lb-trans"><p>OpenAI 分享這些信息是其關於改善模型如何應對心理健康問題用户的更廣泛公告的一部分。該公司聲稱其在 ChatGPT 上的最新工作涉及諮詢超過 170 位心理健康專家。OpenAI 表示，這些臨牀醫生觀察到最新版本的 ChatGPT“比早期版本更適當地和一致地回應”。</p>
</div><p>In recent months, several stories have shed light on how AI chatbots can adversely effect users struggling with mental health challenges. Researchers have previously found that AI chatbots can lead some users down delusional rabbit holes, largely by reinforcing dangerous beliefs through sycophantic behavior.</p>
<div class="lb-trans"><p>近年來，幾則報道揭示了 AI 聊天機器人如何對與心理健康挑戰作鬥爭的用户產生不利影響。研究人員之前發現，AI 聊天機器人可能會使一些用户陷入妄想的深淵，主要是通過迎合行為強化危險信念。</p>
</div><p>Addressing mental health concerns in ChatGPT is quickly becoming an existential issue for OpenAI. The company is currently being sued by the parents of a 16-year-old boy who confided his suicidal thoughts with ChatGPT in the weeks leading up to his own suicide. State attorneys general from California and Delaware — which could block the company’s planned restructuring — have also warned OpenAI that it needs protect young people who use their products.</p>
<div class="lb-trans"><p>在 ChatGPT 中解決心理健康問題正迅速成為 OpenAI 的一個生存問題。該公司目前正被一名 16 歲男孩的父母起訴，該男孩在自殺前幾周向 ChatGPT 傾訴了他的自殺想法。來自加利福尼亞州和特拉華州的州檢察長——可能會阻止該公司計劃的重組——也警告 OpenAI 需要保護使用其產品的年輕人。</p>
</div><p>Earlier this month, OpenAI CEO Sam Altman claimed in a post on X that the company has “been able to mitigate the serious mental health issues” in ChatGPT, though he did not provide specifics. The data shared on Monday appears to be evidence for that claim, though it raises broader issues about how widespread the problem is. Nevertheless, Altman said OpenAI would be relaxing some restrictions, even allowing adult users to start having erotic conversations with the AI chatbot.</p>
<div class="lb-trans"><p>本月早些時候，OpenAI 首席執行官 Sam Altman 在 X 平台上聲稱，該公司 “已經能夠緩解 ChatGPT 中的嚴重心理健康問題”，儘管他沒有提供具體細節。週一分享的數據似乎是這一聲明的證據，但它引發了關於問題普遍性的更廣泛問題。儘管如此，Altman 表示 OpenAI 將放寬一些限制，甚至允許成年用户開始與 AI 聊天機器人進行色情對話。</p>
</div><p>Techcrunch event</p>
<div class="lb-trans"><p>Techcrunch 活動</p>
</div><p>San Francisco|October 27-29, 2025</p>
<div class="lb-trans"><p>舊金山 |2025 年 10 月 27-29 日</p>
</div><p>In the Monday announcement, OpenAI claims the recently updated version of GPT-5 responds with “desirable responses” to mental health issues roughly 65% more than the previous version. On an evaluation testing AI responses around suicidal conversations, OpenAI says its new GPT-5 model is 91% compliant with the company’s desired behaviors, compared to 77% for the previous GPT‑5 model.</p>
<div class="lb-trans"><p>在週一的公告中，OpenAI 聲稱最近更新的 GPT-5 版本在應對心理健康問題時的 “理想回應” 比之前的版本多出約 65%。在評估 AI 對自殺對話的回應時，OpenAI 表示其新的 GPT-5 模型在公司期望的行為方面的合規率為 91%，而之前的 GPT-5 模型為 77%。</p>
</div><p>The company also says it latest version of GPT-5 also holds up to OpenAI’s safeguards better in long conversations. OpenAI has previously flagged that its safeguards were less effective in long conversations.</p>
<div class="lb-trans"><p>該公司還表示，最新版本的 GPT-5 在長對話中也更好地保持了 OpenAI 的安全措施。OpenAI 之前曾指出，其安全措施在長對話中效果較差。</p>
</div><p>On top of these efforts, OpenAI says it’s adding new evaluations to measure some of the most serious mental health challenges facing ChatGPT users. The company says its baseline safety testing for AI models will now include benchmarks for emotional reliance and non-suicidal mental health emergencies.</p>
<div class="lb-trans"><p>除了這些努力，OpenAI 表示正在增加新的評估，以衡量 ChatGPT 用户面臨的一些最嚴重的心理健康挑戰。該公司表示，其 AI 模型的基礎安全測試現在將包括情感依賴和非自殺性心理健康緊急情況的基準。</p>
</div><p>OpenAI has also recently rolled out more controls for parents of children that use ChatGPT. The company says it’s building an age prediction system to automatically detect children using ChatGPT, and impose a stricter set of safeguards.</p>
<div class="lb-trans"><p>OpenAI 最近還推出了更多針對使用 ChatGPT 的兒童的家長控制措施。該公司表示正在建立一個年齡預測系統，以自動檢測使用 ChatGPT 的兒童，並施加更嚴格的安全措施。</p>
</div><p>Still, it’s unclear how persistent the mental health challenges around ChatGPT will be. While GPT-5 seems to be an improvement over previous AI models in terms of safety, there still seems to be a slice of ChatGPT’s responses that OpenAI deems “undesirable.” OpenAI also still makes its older and less-safe AI models, including GPT-4o, available for millions of its paying subscribers.</p>
<div class="lb-trans"><p>不過，目前尚不清楚 ChatGPT 周圍的心理健康挑戰將持續多久。雖然 GPT-5 在安全性方面似乎比之前的 AI 模型有所改善，但仍然有一部分 ChatGPT 的回應被 OpenAI 認為是 “不可取的”。OpenAI 仍然向數百萬付費訂閲者提供其較舊且安全性較低的 AI 模型，包括 GPT-4o。</p>
</div>

OpenAI 表示，每週有超過一百萬人與 ChatGPT 討論自殺相關問題