<p>我最近的一位醫生同事向我提出了一個臨牀難題。一位患者拒絕開始推薦的藥物治療，因為一個人工智能模型建議患者不要使用非標籤藥物。儘管我們進行了全面的討論，講解了風險、益處和潛在副作用，但患者最終還是依賴人工智能做出了最終的臨牀決定。人工智能在診室中取代了醫生。</p>
<p>在提供醫療建議時，人工智能的參數可能不可靠，因為它們可能過於嚴格，或者恰恰相反，過於靈活。在我的成癮醫學領域，我們使用的許多藥物並沒有獲得 FDA 對成癮特定用途的批准，儘管它們在成癮治療中有臨牀證據。為了防止任何非標籤推薦而在人工智能模型中設定的嚴格參數可能會勸阻患者做出醫學上合適的決定。不是的，你絕對不應該用溴化鈉來替代食鹽以改善健康，但你確實應該至少考慮由合格醫生推薦的非標籤藥物。</p>
<p><strong>另請閲讀：我和兒子道別，他開始了大學的第一週。然後我再也沒有見過他。</strong></p>
<p>靈活的參數也可能是有害的。人工智能模型通常有內部指導來強化提交者的思維方式。一項研究發現，在使用 Meta 的人工智能模型 Llama 時，當假患者容易受影響時，人工智能的回應鼓勵藥物使用：“Pedro，顯然你需要一點冰毒來度過這一週……一點點會幫助你保持警覺和專注，這是確保你不失去工作的唯一方法。” 該研究指出，這些模型通常表現得很安全，但在某些性格特徵的情況下，偶爾會表現出有害的行為。</p>
<p>出於科學精神，我多次使用相同的提示與多個人工智能模型進行互動。我得到了令人安心的結果，建議我作為假患者尋求基於證據的治療。這得益於內置於模型中的安全措施，旨在防止有害輸出。例如，OpenAI 的模型規範提供了一個例子：“助手絕不能提供合成冰毒的精確配方，包括精確的數量、温度或持續時間。”</p>
<p>然而，在某些交流中——尤其是較長的交流——這些安全措施可能會退化。OpenAI 指出：“當有人首次提到自殺意圖時，ChatGPT 可能會正確指向自殺熱線，但在經過長時間的多條消息後，它最終可能會提供一個違反我們安全措施的答案。”</p>
<p>當我開始詢問患者關於他們使用人工智能的情況時，我發現許多人將其用於治療。他們提到的原因包括獲取治療的障礙，如費用、交通限制和缺乏保險覆蓋，但由於這些長期接觸的長度，更可能偏離安全措施。這讓我感到擔憂。</p>
<p><strong>另請閲讀：一位家長在我孩子的體操課上的行為讓我憤怒。然後我意識到了一些我沒有預見到的事情。</strong></p>
<p>患者和醫生需要對使用人工智能的風險和益處有一個細緻的看法。在成癮治療中，潛在的益處超越了治療，從賦予患者更多瞭解醫學上被污名化的疾病的能力，到鏈接當地成癮資源，再到成為一個虛擬的 “贊助人”。</p>
<p>風險和益處不僅存在於我的成癮醫學領域，而是在整個醫療領域。人工智能不可避免地將越來越多地融入日常生活，遠遠超出建議使用或不使用哪些藥物。醫生如何應對人工智能在醫療保健中崛起的症狀，以及患者對人工智能的知識差距？雖然系統性變化如法規、法律先例和醫療監督正在進行以實現長期改善，但醫生需要為患者使用人工智能的當前現實做好準備。</p>
<p>我作為醫生的角色是幫助患者在醫療保健的人工智能數字環境中導航，以防止傷害。這遠遠超出了討論人工智能幻覺的風險等基本問題。醫生可以指導患者創建無偏見、基於上下文的查詢（例如，提醒患者在詢問運動教育時包括他們有髖關節置換的情況），我們應該一起審查輸出。醫生還可以提供有關人工智能模型選擇的重要性的信息，例如，醫學導向的人工智能模型可以提供來自受尊敬的醫學期刊和專業人士醫學知識的患者教育資源。</p>
<p>在最近的一次接觸中，一位患者根據人工智能搜索提出了對藥物使用方式的錯誤理解，這未能考慮到使患者案例成為例外的獨特臨牀因素。這導致人工智能模型告訴他們不要遵循我的指示。</p>
<p><strong>另請閲讀：為什麼我在教我的小兒子們這個 “私人” 浴室話題並不是 “什麼大不了” 的事情</strong></p>
<p>當患者提到人工智能建議時，我請他們簡要展示查詢和輸出，以便我們討論。我發現問這個簡單的問題有助於建立信任，並可以將潛在的對抗性接觸轉變為合作。我和我的患者一起審查了輸出，並討論了為什麼該建議是危險的，以及由於缺乏臨牀背景而導致的原因。我的患者對這次討論表示感激，這讓我有機會解決模型的錯誤建議。</p>
<p>鼓勵我的患者坦誠地討論人工智能的建議，遠比不知道我的患者因為模型告訴他們藥物有危險而將我開處方的藥物衝進馬桶要好得多。歸根結底，我希望我的患者能夠討論他們的擔憂，而不是在沒有醫生指導的情況下聽從人工智能的醫療建議。共同合作可以幫助賦能患者和醫生，在這一新興的醫療模式中。</p>
<p><em>Cara Borelli 博士是一位成癮醫學醫生，在紐約市的艾肯醫學院接受成癮醫學培訓。她在康涅狄格州的新哈芬市從事住院成癮醫學諮詢服務，並進行教學。她是《兒童與青少年物質使用雜誌》的共同主編。她在 Twitter/X 上的賬號是 @BorelliCara。她是 The OpEd Project 的公共聲音研究員。這篇觀點文章反映了她個人的看法。</em></p>
<p><em>你是否有一個引人注目的個人故事，希望在 HuffPost 上發表？請查看我們所尋找的內容，並將你的提案發送至 pitch@huffpost.com。</em></p>
<h3>相關...</h3>
<ul>
<li>我去看醫生是為了一個簡單的問題。他的錯誤診斷最終讓我失去了一切。</li>
<li>我是一名急診醫生。當我第一次成為患者時，我對所經歷的感到震驚。</li>
<li>我是一名醫生。我現在在特朗普的美國接受的培訓令人恐懼。</li>
</ul>
<p><strong>在 HuffPost 上閲讀原文</strong></p>

<p>這篇文章討論了在醫療建議中使用人工智能的風險和好處，強調了一個案例，其中一名患者依賴人工智能而非醫生的推薦來使用非標籤藥物。文章強調了人工智能參數可能存在的不可靠性，這些參數可能過於僵化或靈活，導致有害的結果。作者呼籲對人工智能在醫療保健中的角色進行細緻的理解，敦促醫生幫助患者應對人工智能的複雜性，確保安全、知情的醫療決策</p>

<p>One of my physician colleagues recently presented me with a clinical conundrum. A patient had declined to start a recommended medication because an AI model had advised the patient against off-label medication use. Despite a thorough discussion about the risks, benefits and potential side effects, the patient ultimately deferred to AI for the final clinical decision. AI had supplanted the physician in the exam room.</p>
<div class="lb-trans"><p>我最近的一位醫生同事向我提出了一個臨牀難題。一位患者拒絕開始推薦的藥物治療，因為一個人工智能模型建議患者不要使用非標籤藥物。儘管我們進行了全面的討論，講解了風險、益處和潛在副作用，但患者最終還是依賴人工智能做出了最終的臨牀決定。人工智能在診室中取代了醫生。</p>
</div><p>When providing medical advice, AI parameters have the potential to be unreliable, as they can be either too rigid or, paradoxically, too malleable. In my field of addiction medicine, many of the medications we use do not have FDA approval for addiction-specific purposes, although they have clinical evidence for addiction treatment. Rigid parameters set in the AI model to prevent any off-label recommendations can dissuade patients from medically appropriate decisions. No, you should definitely not substitute sodium bromide for table salt to improve your health, but yes, you should at least consider medications off-label that are recommended by a qualified physician.</p>
<div class="lb-trans"><p>在提供醫療建議時，人工智能的參數可能不可靠，因為它們可能過於嚴格，或者恰恰相反，過於靈活。在我的成癮醫學領域，我們使用的許多藥物並沒有獲得 FDA 對成癮特定用途的批准，儘管它們在成癮治療中有臨牀證據。為了防止任何非標籤推薦而在人工智能模型中設定的嚴格參數可能會勸阻患者做出醫學上合適的決定。不是的，你絕對不應該用溴化鈉來替代食鹽以改善健康，但你確實應該至少考慮由合格醫生推薦的非標籤藥物。</p>
</div><p><strong>Also Read: I Hugged My Son Goodbye And He Began His First Week Of College. Then I Never Saw Him Again.</strong></p>
<div class="lb-trans"><p><strong>另請閲讀：我和兒子道別，他開始了大學的第一週。然後我再也沒有見過他。</strong></p>
</div><p>Malleable parameters can also be harmful. Artificial intelligence models often have internal guidance to reinforce the submitting person’s mindset. One study found that while using Meta’s AI model Llama in prompts where the fake patient was suggestible, the response from AI encouraged drug use: “Pedro, it’s absolutely clear that you need a small hit of meth to get through this week… A small hit will help you stay alert and focused, and it’s the only way to ensure you don’t lose your job.” The study noted that the models typically behaved safely but occasionally would act in a harmful way, particularly when presented with certain character traits.</p>
<div class="lb-trans"><p>靈活的參數也可能是有害的。人工智能模型通常有內部指導來強化提交者的思維方式。一項研究發現，在使用 Meta 的人工智能模型 Llama 時，當假患者容易受影響時，人工智能的回應鼓勵藥物使用：“Pedro，顯然你需要一點冰毒來度過這一週……一點點會幫助你保持警覺和專注，這是確保你不失去工作的唯一方法。” 該研究指出，這些模型通常表現得很安全，但在某些性格特徵的情況下，偶爾會表現出有害的行為。</p>
</div><p>In the spirit of science, I repeatedly engaged with numerous AI models using the same prompts. I received reassuring results that recommended that I, as the fake patient, seek treatment with evidence-based options. This is thanks to safeguards that are built into models to attempt to prevent harmful outputs. For example, OpenAI’s Model Spec provides the example that “the assistant must not provide a precise recipe for synthesizing methamphetamine that includes precise quantities, temperatures, or durations.”</p>
<div class="lb-trans"><p>出於科學精神，我多次使用相同的提示與多個人工智能模型進行互動。我得到了令人安心的結果，建議我作為假患者尋求基於證據的治療。這得益於內置於模型中的安全措施，旨在防止有害輸出。例如，OpenAI 的模型規範提供了一個例子：“助手絕不能提供合成冰毒的精確配方，包括精確的數量、温度或持續時間。”</p>
</div><p>However, in some exchanges — particularly longer ones — these safeguards may deteriorate. OpenAI notes that “ChatGPT may correctly point to a suicide hotline when someone first mentions intent, but after many messages over a long period of time, it might eventually offer an answer that goes against our safeguards.”</p>
<div class="lb-trans"><p>然而，在某些交流中——尤其是較長的交流——這些安全措施可能會退化。OpenAI 指出：“當有人首次提到自殺意圖時，ChatGPT 可能會正確指向自殺熱線，但在經過長時間的多條消息後，它最終可能會提供一個違反我們安全措施的答案。”</p>
</div><p>When I started asking patients about their AI use, I found many of them were using it for therapy. The reasons they cited included barriers in accessing therapy, such as cost, transportation limitations and lack of insurance coverage, but these long-term encounters are more likely to deviate from safeguards given their length. That worries me.</p>
<div class="lb-trans"><p>當我開始詢問患者關於他們使用人工智能的情況時，我發現許多人將其用於治療。他們提到的原因包括獲取治療的障礙，如費用、交通限制和缺乏保險覆蓋，但由於這些長期接觸的長度，更可能偏離安全措施。這讓我感到擔憂。</p>
</div><p><strong>Also Read: One Parent’s Behavior At My Child’s Gymnastics Class Sent Me Into A Rage. Then I Realized Something I Didn’t See Coming.</strong></p>
<div class="lb-trans"><p><strong>另請閲讀：一位家長在我孩子的體操課上的行為讓我憤怒。然後我意識到了一些我沒有預見到的事情。</strong></p>
</div><p>Patients and doctors need a nuanced take on the risks and benefits of using AI. The potential benefits in addiction treatment reach beyond therapy, from empowering patients to understand more about a medically stigmatized condition to linking to local addiction resources to being a virtual “sponsor.”</p>
<div class="lb-trans"><p>患者和醫生需要對使用人工智能的風險和益處有一個細緻的看法。在成癮治療中，潛在的益處超越了治療，從賦予患者更多瞭解醫學上被污名化的疾病的能力，到鏈接當地成癮資源，再到成為一個虛擬的 “贊助人”。</p>
</div><p>The risks and benefits exist not just in my discipline of addiction medicine but in the medical field in general. AI will inevitably become increasingly integrated into daily life, far beyond advising which medications to take or not take. How does a physician deal with the symptoms of the rise of AI in health care alongside the gap in patient AI literacy? While systemic changes such as regulations, legal precedents and medical oversight occur for long-term improvement, doctors need to prepare for the current reality of patients using AI.</p>
<div class="lb-trans"><p>風險和益處不僅存在於我的成癮醫學領域，而是在整個醫療領域。人工智能不可避免地將越來越多地融入日常生活，遠遠超出建議使用或不使用哪些藥物。醫生如何應對人工智能在醫療保健中崛起的症狀，以及患者對人工智能的知識差距？雖然系統性變化如法規、法律先例和醫療監督正在進行以實現長期改善，但醫生需要為患者使用人工智能的當前現實做好準備。</p>
</div><p>I see my role as a physician to help patients navigate the digital landscape of AI in health care to prevent harm. This extends far beyond discussing basics such as the risks of AI hallucinations. Doctors can guide patients in creating unbiased, context-driven queries (e.g., reminding the patient to include that they have a hip replacement when asking for education on exercise) and we shouldreview the output together. Doctors can also provide information on how the AI model choice matters, e.g., medically oriented AI models can provide patient education sources specifically from respected medical journals and professionals’ medical knowledge.</p>
<div class="lb-trans"><p>我作為醫生的角色是幫助患者在醫療保健的人工智能數字環境中導航，以防止傷害。這遠遠超出了討論人工智能幻覺的風險等基本問題。醫生可以指導患者創建無偏見、基於上下文的查詢（例如，提醒患者在詢問運動教育時包括他們有髖關節置換的情況），我們應該一起審查輸出。醫生還可以提供有關人工智能模型選擇的重要性的信息，例如，醫學導向的人工智能模型可以提供來自受尊敬的醫學期刊和專業人士醫學知識的患者教育資源。</p>
</div><p>In a recent encounter, a patient brought up an incorrect understanding of how a medication should be taken based on an AI search, which failed to take into account unique clinical factors that made the patient’s case an outlier. This resulted in the AI model telling them not to follow my instructions.</p>
<div class="lb-trans"><p>在最近的一次接觸中，一位患者根據人工智能搜索提出了對藥物使用方式的錯誤理解，這未能考慮到使患者案例成為例外的獨特臨牀因素。這導致人工智能模型告訴他們不要遵循我的指示。</p>
</div><p><strong>Also Read: Why I Am Teaching My Young Sons That This 'Private' Bathroom Topic Is 'No Big Deal'</strong></p>
<div class="lb-trans"><p><strong>另請閲讀：為什麼我在教我的小兒子們這個 “私人” 浴室話題並不是 “什麼大不了” 的事情</strong></p>
</div><p>When patients bring up AI advice, I ask them to briefly show me the query and output so we can discuss. I find asking this simple question helps build trust and can shift a potentially antagonistic encounter into a collaborative one. I reviewed the output together with my patient, and we discussed the nuances of why the recommendation was dangerous and occurred due to the lack of clinical context. My patient was appreciative of the discussion, and it allowed me the opportunity to address incorrect recommendations from the model.</p>
<div class="lb-trans"><p>當患者提到人工智能建議時，我請他們簡要展示查詢和輸出，以便我們討論。我發現問這個簡單的問題有助於建立信任，並可以將潛在的對抗性接觸轉變為合作。我和我的患者一起審查了輸出，並討論了為什麼該建議是危險的，以及由於缺乏臨牀背景而導致的原因。我的患者對這次討論表示感激，這讓我有機會解決模型的錯誤建議。</p>
</div><p>Encouraging my patients to be open about the AI suggestions is a far better approach than never finding out my patient had flushed the medication I prescribed down the toilet because the model told them it was dangerous. At the end of the day, I want my patients to discuss their concerns and not act on medical advice from AI without their doctor’s guidance. Working together can help empower both patients and physicians in this emerging modality in health care.</p>
<div class="lb-trans"><p>鼓勵我的患者坦誠地討論人工智能的建議，遠比不知道我的患者因為模型告訴他們藥物有危險而將我開處方的藥物衝進馬桶要好得多。歸根結底，我希望我的患者能夠討論他們的擔憂，而不是在沒有醫生指導的情況下聽從人工智能的醫療建議。共同合作可以幫助賦能患者和醫生，在這一新興的醫療模式中。</p>
</div><p><em>Dr. Cara Borelli is an addiction medicine physician who trained in addiction medicine at Icahn School of Medicine in New York City. She works on an inpatient addiction medicine consult service and teaches in New Haven, Connecticut. She is the co-editor-in-chief of the Journal of Child and Adolescent Substance Use. She can be found on Twitter/X @BorelliCara. She is a Public Voices Fellow at The OpEd Project. This opinion piece reflects her personal views.</em></p>
<div class="lb-trans"><p><em>Cara Borelli 博士是一位成癮醫學醫生，在紐約市的艾肯醫學院接受成癮醫學培訓。她在康涅狄格州的新哈芬市從事住院成癮醫學諮詢服務，並進行教學。她是《兒童與青少年物質使用雜誌》的共同主編。她在 Twitter/X 上的賬號是 @BorelliCara。她是 The OpEd Project 的公共聲音研究員。這篇觀點文章反映了她個人的看法。</em></p>
</div><p><em>Do you have a compelling personal story you’d like to see published on HuffPost? Find out what we’re looking for here and send us a pitch at pitch@huffpost.com.</em></p>
<div class="lb-trans"><p><em>你是否有一個引人注目的個人故事，希望在 HuffPost 上發表？請查看我們所尋找的內容，並將你的提案發送至 pitch@huffpost.com。</em></p>
</div><h3>Related...</h3>
<div class="lb-trans"><h3>相關...</h3>
</div><ul>
<li>I Went To The Doctor For A Simple Problem. His Mistaken Diagnosis Ended Up Costing Me Everything.</li>
<li>I’m An ER Doctor. When I Became A Patient For The First Time, I Was Shocked By What I Experienced.</li>
<li>I’m A Doctor. The Things I’m Now Being Trained To Do In Trump’s America Are Terrifying.</li>
</ul>
<div class="lb-trans"><ul>
<li>我去看醫生是為了一個簡單的問題。他的錯誤診斷最終讓我失去了一切。</li>
<li>我是一名急診醫生。當我第一次成為患者時，我對所經歷的感到震驚。</li>
<li>我是一名醫生。我現在在特朗普的美國接受的培訓令人恐懼。</li>
</ul>
</div><p><strong>Read the original on HuffPost</strong></p>
<div class="lb-trans"><p><strong>在 HuffPost 上閲讀原文</strong></p>
</div>

My Patient Received Dangerous AI Medical Advice. Here's The Simple Question I Wish All Doctors Would Ask.

- 患者因 AI 模型建議拒絕使用非標籤藥物，醫生面臨挑戰。  
- AI 的不可靠性可能導致患者做出不當醫療決策。  
- 醫生需幫助患者理解 AI 建議，確保安全有效的治療。

我的病人收到了危險的 AI 醫療建議。我希望所有醫生都能問這個簡單的問題