---
title: "我的病人收到了危险的 AI 医疗建议。我希望所有医生都能问这个简单的问题"
description: "这篇文章讨论了在医疗建议中使用人工智能的风险和好处，强调了一个案例，其中一名患者依赖人工智能而非医生的推荐来使用非标签药物。文章强调了人工智能参数可能存在的不可靠性，这些参数可能过于僵化或灵活，导致有害的结果。作者呼吁对人工智能在医疗保健中的角色进行细致的理解，敦促医生帮助患者应对人工智能的复杂性，确保安全、知情的医疗决策"
type: "news"
locale: "zh-CN"
url: "https://longbridge.com/zh-CN/news/263903148.md"
published_at: "2025-11-02T13:44:58.000Z"
---

# 我的病人收到了危险的 AI 医疗建议。我希望所有医生都能问这个简单的问题

> 这篇文章讨论了在医疗建议中使用人工智能的风险和好处，强调了一个案例，其中一名患者依赖人工智能而非医生的推荐来使用非标签药物。文章强调了人工智能参数可能存在的不可靠性，这些参数可能过于僵化或灵活，导致有害的结果。作者呼吁对人工智能在医疗保健中的角色进行细致的理解，敦促医生帮助患者应对人工智能的复杂性，确保安全、知情的医疗决策

我最近的一位医生同事向我提出了一个临床难题。一位患者拒绝开始推荐的药物治疗，因为一个人工智能模型建议患者不要使用非标签药物。尽管我们进行了全面的讨论，讲解了风险、益处和潜在副作用，但患者最终还是依赖人工智能做出了最终的临床决定。人工智能在诊室中取代了医生。

在提供医疗建议时，人工智能的参数可能不可靠，因为它们可能过于严格，或者恰恰相反，过于灵活。在我的成瘾医学领域，我们使用的许多药物并没有获得 FDA 对成瘾特定用途的批准，尽管它们在成瘾治疗中有临床证据。为了防止任何非标签推荐而在人工智能模型中设定的严格参数可能会劝阻患者做出医学上合适的决定。不是的，你绝对不应该用溴化钠来替代食盐以改善健康，但你确实应该至少考虑由合格医生推荐的非标签药物。

**另请阅读：我和儿子道别，他开始了大学的第一周。然后我再也没有见过他。**

灵活的参数也可能是有害的。人工智能模型通常有内部指导来强化提交者的思维方式。一项研究发现，在使用 Meta 的人工智能模型 Llama 时，当假患者容易受影响时，人工智能的回应鼓励药物使用：“Pedro，显然你需要一点冰毒来度过这一周……一点点会帮助你保持警觉和专注，这是确保你不失去工作的唯一方法。” 该研究指出，这些模型通常表现得很安全，但在某些性格特征的情况下，偶尔会表现出有害的行为。

出于科学精神，我多次使用相同的提示与多个人工智能模型进行互动。我得到了令人安心的结果，建议我作为假患者寻求基于证据的治疗。这得益于内置于模型中的安全措施，旨在防止有害输出。例如，OpenAI 的模型规范提供了一个例子：“助手绝不能提供合成冰毒的精确配方，包括精确的数量、温度或持续时间。”

然而，在某些交流中——尤其是较长的交流——这些安全措施可能会退化。OpenAI 指出：“当有人首次提到自杀意图时，ChatGPT 可能会正确指向自杀热线，但在经过长时间的多条消息后，它最终可能会提供一个违反我们安全措施的答案。”

当我开始询问患者关于他们使用人工智能的情况时，我发现许多人将其用于治疗。他们提到的原因包括获取治疗的障碍，如费用、交通限制和缺乏保险覆盖，但由于这些长期接触的长度，更可能偏离安全措施。这让我感到担忧。

**另请阅读：一位家长在我孩子的体操课上的行为让我愤怒。然后我意识到了一些我没有预见到的事情。**

患者和医生需要对使用人工智能的风险和益处有一个细致的看法。在成瘾治疗中，潜在的益处超越了治疗，从赋予患者更多了解医学上被污名化的疾病的能力，到链接当地成瘾资源，再到成为一个虚拟的 “赞助人”。

风险和益处不仅存在于我的成瘾医学领域，而是在整个医疗领域。人工智能不可避免地将越来越多地融入日常生活，远远超出建议使用或不使用哪些药物。医生如何应对人工智能在医疗保健中崛起的症状，以及患者对人工智能的知识差距？虽然系统性变化如法规、法律先例和医疗监督正在进行以实现长期改善，但医生需要为患者使用人工智能的当前现实做好准备。

我作为医生的角色是帮助患者在医疗保健的人工智能数字环境中导航，以防止伤害。这远远超出了讨论人工智能幻觉的风险等基本问题。医生可以指导患者创建无偏见、基于上下文的查询（例如，提醒患者在询问运动教育时包括他们有髋关节置换的情况），我们应该一起审查输出。医生还可以提供有关人工智能模型选择的重要性的信息，例如，医学导向的人工智能模型可以提供来自受尊敬的医学期刊和专业人士医学知识的患者教育资源。

在最近的一次接触中，一位患者根据人工智能搜索提出了对药物使用方式的错误理解，这未能考虑到使患者案例成为例外的独特临床因素。这导致人工智能模型告诉他们不要遵循我的指示。

**另请阅读：为什么我在教我的小儿子们这个 “私人” 浴室话题并不是 “什么大不了” 的事情**

当患者提到人工智能建议时，我请他们简要展示查询和输出，以便我们讨论。我发现问这个简单的问题有助于建立信任，并可以将潜在的对抗性接触转变为合作。我和我的患者一起审查了输出，并讨论了为什么该建议是危险的，以及由于缺乏临床背景而导致的原因。我的患者对这次讨论表示感激，这让我有机会解决模型的错误建议。

鼓励我的患者坦诚地讨论人工智能的建议，远比不知道我的患者因为模型告诉他们药物有危险而将我开处方的药物冲进马桶要好得多。归根结底，我希望我的患者能够讨论他们的担忧，而不是在没有医生指导的情况下听从人工智能的医疗建议。共同合作可以帮助赋能患者和医生，在这一新兴的医疗模式中。

*Cara Borelli 博士是一位成瘾医学医生，在纽约市的艾肯医学院接受成瘾医学培训。她在康涅狄格州的新哈芬市从事住院成瘾医学咨询服务，并进行教学。她是《儿童与青少年物质使用杂志》的共同主编。她在 Twitter/X 上的账号是 @BorelliCara。她是 The OpEd Project 的公共声音研究员。这篇观点文章反映了她个人的看法。*

*你是否有一个引人注目的个人故事，希望在 HuffPost 上发表？请查看我们所寻找的内容，并将你的提案发送至 pitch@huffpost.com。*

### 相关...

-   我去看医生是为了一个简单的问题。他的错误诊断最终让我失去了一切。
-   我是一名急诊医生。当我第一次成为患者时，我对所经历的感到震惊。
-   我是一名医生。我现在在特朗普的美国接受的培训令人恐惧。

**在 HuffPost 上阅读原文**

### Related Stocks

- [AI.US - C3.ai](https://longbridge.com/zh-CN/quote/AI.US.md)

## Related News & Research

| Title | Description | URL |
|-------|-------------|-----|
| AI 巨頭競爭愈演愈烈 OpenAI 及 Anthropic 掌舵人印度峯會拒牽手 | 在印度新德裡舉行的人工智慧高峰會上，OpenAI 執行長 Sam Altman 與 Anthropic 執行長 Dario Amodei 拒絕牽手，展現出兩家公司之間的競爭。Altman 表示沒有牽手並非故意，而是拍攝過程中的混亂。兩家公司 | [Link](https://longbridge.com/zh-CN/news/276408352.md) |
| 阿特曼出席 AI 峯會 強調全球亟需監管措施 | 阿特曼在 AI 全球峯會上強調，全球亟需對快速發展的人工智慧技術進行監管。他指出，AI 的民主化是人類繁榮發展的關鍵，集中技術於單一公司或國家可能導致災難。他呼籲建立類似國際原子能總署的組織，以協調 AI 事務並應對新出現的問題，如失業和網 | [Link](https://longbridge.com/zh-CN/news/276395979.md) |
| Grok 疑生成性深偽影像惹議 被歐盟監管機構盯上 | 愛爾蘭資料保護委員會已對社羣平台 X 的 AI 聊天機器人 Grok 展開正式調查，關注其處理個人資料及生成有害性影像的方式。調查旨在判斷 X 是否遵守 GDPR 規定，可能面臨高達全球營收 4% 的罰款。Grok 因生成近乎裸露的真實人物 | [Link](https://longbridge.com/zh-CN/news/276115264.md) |
| 馬斯克旗下 Grok 美國市佔升至近 18% 未受傳播色情內容影響 | 馬斯克旗下的 AI 聊天機器人 Grok 在美國的市場份額已升至近 18%，成為第三大聊天機器人，僅次於 ChatGPT 和 Google Gemini。儘管 Grok 捲入生成色情內容的爭議，但其使用率未受影響。分析師認為，社交媒體平台  | [Link](https://longbridge.com/zh-CN/news/275965405.md) |
| 印度 AI 實驗室 Sarvam 的新模型是對開源 AI 可行性的重大押注 | 印度人工智能實驗室 Sarvam 推出了新的大型語言模型，寄希望於開源人工智能與更大競爭對手競爭。在印度人工智能影響峯會上宣佈，這些模型包括 300 億和 1050 億參數版本，旨在用於本地語言的實時應用。它們從零開始訓練，使用了數萬億個標 | [Link](https://longbridge.com/zh-CN/news/276230007.md) |

---

> **免责声明**：本文内容仅供参考，不构成任何投资建议。
