<p>OpenAI 在周一发布了新的数据，显示有多少 ChatGPT 的用户正在与心理健康问题作斗争，并与 AI 聊天机器人进行交流。该公司表示，在某一周内，0.15% 的 ChatGPT 活跃用户有 “包含潜在自杀计划或意图明确指标的对话”。考虑到 ChatGPT 每周有超过 8 亿活跃用户，这意味着每周有超过一百万人。</p>
<p>该公司表示，类似比例的用户表现出对 ChatGPT 的 “高度情感依附”，并且数十万人在与 AI 聊天机器人的每周对话中显示出精神病或狂躁的迹象。</p>
<p>OpenAI 表示，这些类型的对话在 ChatGPT 中是 “极为罕见的”，因此难以衡量。尽管如此，OpenAI 估计这些问题每周影响数十万人。</p>
<p>OpenAI 分享这些信息是其关于改善模型如何应对心理健康问题用户的更广泛公告的一部分。该公司声称其在 ChatGPT 上的最新工作涉及咨询超过 170 位心理健康专家。OpenAI 表示，这些临床医生观察到最新版本的 ChatGPT“比早期版本更适当地和一致地回应”。</p>
<p>近年来，几则报道揭示了 AI 聊天机器人如何对与心理健康挑战作斗争的用户产生不利影响。研究人员之前发现，AI 聊天机器人可能会使一些用户陷入妄想的深渊，主要是通过迎合行为强化危险信念。</p>
<p>在 ChatGPT 中解决心理健康问题正迅速成为 OpenAI 的一个生存问题。该公司目前正被一名 16 岁男孩的父母起诉，该男孩在自杀前几周向 ChatGPT 倾诉了他的自杀想法。来自加利福尼亚州和特拉华州的州检察长——可能会阻止该公司计划的重组——也警告 OpenAI 需要保护使用其产品的年轻人。</p>
<p>本月早些时候，OpenAI 首席执行官 Sam Altman 在 X 平台上声称，该公司 “已经能够缓解 ChatGPT 中的严重心理健康问题”，尽管他没有提供具体细节。周一分享的数据似乎是这一声明的证据，但它引发了关于问题普遍性的更广泛问题。尽管如此，Altman 表示 OpenAI 将放宽一些限制，甚至允许成年用户开始与 AI 聊天机器人进行色情对话。</p>
<p>Techcrunch 活动</p>
<p>旧金山 |2025 年 10 月 27-29 日</p>
<p>在周一的公告中，OpenAI 声称最近更新的 GPT-5 版本在应对心理健康问题时的 “理想回应” 比之前的版本多出约 65%。在评估 AI 对自杀对话的回应时，OpenAI 表示其新的 GPT-5 模型在公司期望的行为方面的合规率为 91%，而之前的 GPT-5 模型为 77%。</p>
<p>该公司还表示，最新版本的 GPT-5 在长对话中也更好地保持了 OpenAI 的安全措施。OpenAI 之前曾指出，其安全措施在长对话中效果较差。</p>
<p>除了这些努力，OpenAI 表示正在增加新的评估，以衡量 ChatGPT 用户面临的一些最严重的心理健康挑战。该公司表示，其 AI 模型的基础安全测试现在将包括情感依赖和非自杀性心理健康紧急情况的基准。</p>
<p>OpenAI 最近还推出了更多针对使用 ChatGPT 的儿童的家长控制措施。该公司表示正在建立一个年龄预测系统，以自动检测使用 ChatGPT 的儿童，并施加更严格的安全措施。</p>
<p>不过，目前尚不清楚 ChatGPT 周围的心理健康挑战将持续多久。虽然 GPT-5 在安全性方面似乎比之前的 AI 模型有所改善，但仍然有一部分 ChatGPT 的回应被 OpenAI 认为是 “不可取的”。OpenAI 仍然向数百万付费订阅者提供其较旧且安全性较低的 AI 模型，包括 GPT-4o。</p>

OpenAI

<p>OpenAI 报告称，每周有超过一百万用户与 ChatGPT 讨论自杀念头，占其 8 亿活跃用户的 0.15%。该公司通过咨询超过 170 位专家来应对心理健康问题，并声称其最新的 GPT-5 模型对这些问题的回应更加恰当。尽管有所改进，OpenAI 仍面临审查，包括与用户心理健康相关的诉讼。该公司正在实施新的安全措施，包括对儿童用户的年龄检测，同时仍提供可能不那么安全的旧版本模型</p>

<p>OpenAI released new data on Monday illustrating how many of ChatGPT’s users are struggling with mental health issues, and talking to the AI chatbot about it. The company says that 0.15% of ChatGPT’s active users in a given week have “conversations that include explicit indicators of potential suicidal planning or intent.” Given that ChatGPT has more than 800 million weekly active users, that translates to more than a million people a week.</p>
<div class="lb-trans"><p>OpenAI 在周一发布了新的数据，显示有多少 ChatGPT 的用户正在与心理健康问题作斗争，并与 AI 聊天机器人进行交流。该公司表示，在某一周内，0.15% 的 ChatGPT 活跃用户有 “包含潜在自杀计划或意图明确指标的对话”。考虑到 ChatGPT 每周有超过 8 亿活跃用户，这意味着每周有超过一百万人。</p>
</div><p>The company says a similar percentage of users show “heightened levels of emotional attachment to ChatGPT,” and that hundreds of thousands of people show signs of psychosis or mania in their weekly conversations with the AI chatbot.</p>
<div class="lb-trans"><p>该公司表示，类似比例的用户表现出对 ChatGPT 的 “高度情感依附”，并且数十万人在与 AI 聊天机器人的每周对话中显示出精神病或狂躁的迹象。</p>
</div><p>OpenAI says these types of conversations in ChatGPT are “extremely rare,” and thus difficult to measure. That said, OpenAI estimates these issues affect hundreds of thousands of people every week.</p>
<div class="lb-trans"><p>OpenAI 表示，这些类型的对话在 ChatGPT 中是 “极为罕见的”，因此难以衡量。尽管如此，OpenAI 估计这些问题每周影响数十万人。</p>
</div><p>OpenAI shared the information as part of a broader announcement about its recent efforts to improve how models respond to users with mental health issues. The company claims its latest work on ChatGPT involved consulting with more than 170 mental health experts. OpenAI says these clinicians observed that the latest version of ChatGPT “responds more appropriately and consistently than earlier versions.”</p>
<div class="lb-trans"><p>OpenAI 分享这些信息是其关于改善模型如何应对心理健康问题用户的更广泛公告的一部分。该公司声称其在 ChatGPT 上的最新工作涉及咨询超过 170 位心理健康专家。OpenAI 表示，这些临床医生观察到最新版本的 ChatGPT“比早期版本更适当地和一致地回应”。</p>
</div><p>In recent months, several stories have shed light on how AI chatbots can adversely effect users struggling with mental health challenges. Researchers have previously found that AI chatbots can lead some users down delusional rabbit holes, largely by reinforcing dangerous beliefs through sycophantic behavior.</p>
<div class="lb-trans"><p>近年来，几则报道揭示了 AI 聊天机器人如何对与心理健康挑战作斗争的用户产生不利影响。研究人员之前发现，AI 聊天机器人可能会使一些用户陷入妄想的深渊，主要是通过迎合行为强化危险信念。</p>
</div><p>Addressing mental health concerns in ChatGPT is quickly becoming an existential issue for OpenAI. The company is currently being sued by the parents of a 16-year-old boy who confided his suicidal thoughts with ChatGPT in the weeks leading up to his own suicide. State attorneys general from California and Delaware — which could block the company’s planned restructuring — have also warned OpenAI that it needs protect young people who use their products.</p>
<div class="lb-trans"><p>在 ChatGPT 中解决心理健康问题正迅速成为 OpenAI 的一个生存问题。该公司目前正被一名 16 岁男孩的父母起诉，该男孩在自杀前几周向 ChatGPT 倾诉了他的自杀想法。来自加利福尼亚州和特拉华州的州检察长——可能会阻止该公司计划的重组——也警告 OpenAI 需要保护使用其产品的年轻人。</p>
</div><p>Earlier this month, OpenAI CEO Sam Altman claimed in a post on X that the company has “been able to mitigate the serious mental health issues” in ChatGPT, though he did not provide specifics. The data shared on Monday appears to be evidence for that claim, though it raises broader issues about how widespread the problem is. Nevertheless, Altman said OpenAI would be relaxing some restrictions, even allowing adult users to start having erotic conversations with the AI chatbot.</p>
<div class="lb-trans"><p>本月早些时候，OpenAI 首席执行官 Sam Altman 在 X 平台上声称，该公司 “已经能够缓解 ChatGPT 中的严重心理健康问题”，尽管他没有提供具体细节。周一分享的数据似乎是这一声明的证据，但它引发了关于问题普遍性的更广泛问题。尽管如此，Altman 表示 OpenAI 将放宽一些限制，甚至允许成年用户开始与 AI 聊天机器人进行色情对话。</p>
</div><p>Techcrunch event</p>
<div class="lb-trans"><p>Techcrunch 活动</p>
</div><p>San Francisco|October 27-29, 2025</p>
<div class="lb-trans"><p>旧金山 |2025 年 10 月 27-29 日</p>
</div><p>In the Monday announcement, OpenAI claims the recently updated version of GPT-5 responds with “desirable responses” to mental health issues roughly 65% more than the previous version. On an evaluation testing AI responses around suicidal conversations, OpenAI says its new GPT-5 model is 91% compliant with the company’s desired behaviors, compared to 77% for the previous GPT‑5 model.</p>
<div class="lb-trans"><p>在周一的公告中，OpenAI 声称最近更新的 GPT-5 版本在应对心理健康问题时的 “理想回应” 比之前的版本多出约 65%。在评估 AI 对自杀对话的回应时，OpenAI 表示其新的 GPT-5 模型在公司期望的行为方面的合规率为 91%，而之前的 GPT-5 模型为 77%。</p>
</div><p>The company also says it latest version of GPT-5 also holds up to OpenAI’s safeguards better in long conversations. OpenAI has previously flagged that its safeguards were less effective in long conversations.</p>
<div class="lb-trans"><p>该公司还表示，最新版本的 GPT-5 在长对话中也更好地保持了 OpenAI 的安全措施。OpenAI 之前曾指出，其安全措施在长对话中效果较差。</p>
</div><p>On top of these efforts, OpenAI says it’s adding new evaluations to measure some of the most serious mental health challenges facing ChatGPT users. The company says its baseline safety testing for AI models will now include benchmarks for emotional reliance and non-suicidal mental health emergencies.</p>
<div class="lb-trans"><p>除了这些努力，OpenAI 表示正在增加新的评估，以衡量 ChatGPT 用户面临的一些最严重的心理健康挑战。该公司表示，其 AI 模型的基础安全测试现在将包括情感依赖和非自杀性心理健康紧急情况的基准。</p>
</div><p>OpenAI has also recently rolled out more controls for parents of children that use ChatGPT. The company says it’s building an age prediction system to automatically detect children using ChatGPT, and impose a stricter set of safeguards.</p>
<div class="lb-trans"><p>OpenAI 最近还推出了更多针对使用 ChatGPT 的儿童的家长控制措施。该公司表示正在建立一个年龄预测系统，以自动检测使用 ChatGPT 的儿童，并施加更严格的安全措施。</p>
</div><p>Still, it’s unclear how persistent the mental health challenges around ChatGPT will be. While GPT-5 seems to be an improvement over previous AI models in terms of safety, there still seems to be a slice of ChatGPT’s responses that OpenAI deems “undesirable.” OpenAI also still makes its older and less-safe AI models, including GPT-4o, available for millions of its paying subscribers.</p>
<div class="lb-trans"><p>不过，目前尚不清楚 ChatGPT 周围的心理健康挑战将持续多久。虽然 GPT-5 在安全性方面似乎比之前的 AI 模型有所改善，但仍然有一部分 ChatGPT 的回应被 OpenAI 认为是 “不可取的”。OpenAI 仍然向数百万付费订阅者提供其较旧且安全性较低的 AI 模型，包括 GPT-4o。</p>
</div>

OpenAI 表示，每周有超过一百万人与 ChatGPT 讨论自杀相关问题