(本故事與特別報道一起發佈:“隨着人工智能進入手術室,關於手術失誤和身體部位錯誤識別的報道層出不窮”) 人工智能應用聲稱可以幫助患者,但有時提供錯誤的建議 醫生對人工智能的醫療能力表示擔憂,警告可能造成的傷害 FDA 允許人工智能醫療應用提供 ‘患者教育’,但不允許進行診斷 一款皮膚科應用在蘋果發現其違反指南後被下架 作者:Steve Stecklow 2 月 9 日(路透社)——人工智能正在從軟件和法律到娛樂和教育等行業引發變革。隨着像 Cem Aksoy 醫生這樣的醫生逐漸認識到,人工智能在醫學領域帶來了特殊的挑戰,因為患者開始尋求人工智能的建議。 土耳其安卡拉一家醫院的住院醫生 Aksoy 表示,一名 18 歲的患者及其家人最近在得知他左腿上被診斷出癌性腫瘤後感到恐慌。他們轉向了 OpenAI 的 ChatGPT。該機器人表示他可能只能活五年。 這是錯誤的:一名整形外科醫生在 7 月成功切除了腫瘤。Aksoy 説:“手術後他基本上痊癒了。” 但幾周後,患者在快要哭出來的情況下給 Aksoy 打了電話。“他説,‘我最近開始咳嗽,ChatGPT 告訴我這可能是肺部轉移,’” 醫生回憶道。患者説他需要寫遺囑。結果發現他的肺部很好。他咳嗽是因為他最近開始吸煙。 “當有人感到痛苦而沒有指導時,” Aksoy 説,一個人工智能聊天機器人 “只是把他們拖入這個知識的森林中,而沒有連貫的上下文。” OpenAI 的一位發言人表示,其最新模型在處理健康問題方面有了顯著改善。該公司表示,ChatGPT 並不打算替代醫療專業人員的指導。 這位年輕土耳其患者與人工智能提供的醫療智慧的遭遇,正值全球許多患者開始尋求這種技術的建議之際。除了大型問答聊天機器人,消費者還轉向一系列新的、基於人工智能的醫療應用。 ‘成為你自己的醫生’ 越來越多的移動應用在蘋果和谷歌應用商店中聲稱使用人工智能來幫助患者解決醫療問題——儘管它們不應提供診斷。 根據美國食品和藥物管理局的指南,基於人工智能的醫療應用如果 “通常用於患者教育,並不用於疾病或其他狀況的診斷”,則不需要批准。許多應用都有免責聲明,表示它們不是診斷工具,不應替代醫生。一些開發者似乎在突破這些限制。 一款名為 “Eureka Health: AI Doctor” 的應用自稱是 “你的一站式個人健康伴侶。” 它在蘋果應用商店上聲明 “僅供信息參考”,並且 “不診斷或治療疾病。” 但其開發者 Sam Dot Co 在一個網站上也宣傳該應用,網站上用大字寫着:“成為你自己的醫生。” “詢問、診斷、治療,” 網站上寫道。“我們的人工智能不僅僅是診斷——它還將你與處方、實驗室訂單和現實世界的護理連接起來。” 蘋果表示,在從路透社瞭解到 Eureka Health 後,已將其從應用商店中移除。蘋果的開發者指南規定,醫療應用 “必須清楚披露數據和方法,以支持準確性聲明。” 應用開發者 Sam Dot 沒有回應評論請求。但在路透社詢問後,網站進行了更改。該網站不再提及該應用。 在某些情況下,應用提供了不準確且可能危險的建議。 “AI 皮膚科醫生:皮膚掃描儀” 在其網站上表示,它擁有超過 940,000 名用户,並且 “與專業皮膚科醫生的準確性相同。” 用户可以上傳痣和其他皮膚狀況的照片,人工智能提供 “即時” 風險評估。“AI 皮膚科醫生可以拯救你的生命,” 網站聲稱。 其位於立陶宛的開發者 Acina 表示,該應用使用 “專有神經網絡” 尋找模式以進行預測。Acina 表示,該應用經過皮膚病圖像的訓練,以識別特定的皮膚狀況。 皮膚科應用聲稱 ‘97% 準確率’ 該應用聲稱 “超過 97% 的準確率。” 但在應用商店中收到了數百條一星評價,許多用户抱怨其不準確。 新澤西州的技術支持分析師 Daniel Thiberge 告訴路透社,他購買了該應用來解讀他拍攝的七張手臂小腫塊的照片。他説,六個結果顯示有 “75%-95%” 的風險是癌性的。然後他去看了皮膚科醫生。醫生告訴他,這個腫塊看起來沒有任何問題,做活檢不值得。 “如果它完全錯誤,那這個應用的目的是什麼?” Thiberge 問。他説,充其量它是無用的。“在最壞的情況下,它是危險的,因為你可能不會去看皮膚科醫生。” 在蘋果應用商店的另一條評論中,一位用户寫道,為了測試該應用,她上傳了顯示她患有黑色素瘤(一種嚴重的皮膚癌)的照片,該病已被診斷並手術切除。但該應用報告該病情是 “良性的”,用户寫道。她告訴路透社,她擔心 “有些人會相信它並延誤就醫。” 路透社沒有獨立確認應用用户的經歷。Acina 表示無法驗證這些經歷。它告訴路透社,AI 皮膚科醫生的 “目的不是提供醫療診斷,而是使用人工智能技術提供初步分析,以鼓勵用户諮詢專業人士。” “我們的人工智能模型建立在皮膚病文獻和經過認證的皮膚科醫生精心挑選和驗證的數據集之上,” 它表示,並補充説 “任何人工智能系統都可能出現誤報。” 一位醫生對應用程序的準確性感到擔憂 該公司表示,其人工智能收到了許多積極的在線評價,包括 “用户感謝我們,因為應用程序促使他們早期檢查了痣或病變——在某些情況下導致及時的醫療關注。” 蘋果公司表示,在從路透社得知此事後,已將該應用程序從其應用商店中移除,部分原因是收到大量客户投訴。 谷歌在路透社關注該應用程序後,也將 AI 皮膚科醫生從其 Google Play 商店中移除。“谷歌 Play 禁止應用程序提供誤導性或有害的健康功能,並要求提供監管證明或免責聲明,以供提供醫療功能的應用程序使用,” 發言人表示。 但該應用程序已重新上市。谷歌最近在 Acina 修訂後恢復了該應用程序。谷歌表示,暫停的應用程序可以在更新為 “合規版本” 後返回。 Acina 表示,它 “更明確地澄清了該應用程序不是醫療設備”,不提供診斷,並且用户應諮詢醫療專業人員。 蘋果也曾短暫恢復該應用程序,但上週又將其移除。根據 Acina 的説法,蘋果告訴它 “在重新評估後”,確定了這一點:“該應用程序提供醫療相關數據、健康相關測量、診斷或治療建議,而沒有適當的監管許可。” Acina 表示正在對移除進行上訴。 醫生、計算機科學家和人工智能醫療顧問 Rachel Draelos 博士表示,人工智能驅動的醫療應用程序令人擔憂,特別是在皮膚科。“我對此非常擔憂,因為正確識別皮膚問題真的很難,” 她告訴路透社。皮膚病症有成千上萬種,“沒有任何應用程序能夠擁有覆蓋所有這些問題的數據集。” 隨着人工智能進入手術室,關於手術失誤和身體部位錯誤識別的報告不斷出現 這裏 (作者:Steve Stecklow。Hannah Woodworth 的補充報道。設計和圖形由 John Emerson 提供。編輯:Michael Williams。)