IBM腫瘤醫生「沃森」被曝不好用，醫療AI前景堪憂？

韓國第一位接受沃森腫瘤輔助治療的癌症患者，正和嘉川大學吉醫學中心的腫瘤專家一起瀏覽自己的疾病信息。來源：嘉川大學吉醫學中心

編者按：

最近，IBM公司用於輔助醫生設計癌症治療方案的AI產品沃森被曝出諸多問題，包括可能開出危險和錯誤的癌症治療方案。這會對醫療AI行業產生什麼樣的影響？從事醫療AI研究或產業化的幾位專家表達了他們的看法。

撰文 | 蔣海宇

責編 | 陳曉雪

「這個產品非常糟糕。我們當時為了醫院推廣購買這個產品，希望它能實現IBM宣稱的願景。結果大多數情況下，它根本沒用。」美國佛羅里達朱皮特醫療中心（Jupiter Medical Center）的一名醫生，當著IBM高管的面，這樣評價他們的沃森腫瘤（Watson for Oncology）。

對，就是那個曾被看好，也激起許多爭議的醫療輔助人工智慧系統沃森。沃森腫瘤的使用非常簡單：只需將患者個人信息（比如病歷、成像報告等）輸入系統，系統便基於大量的醫學研究、醫學指南、臨床試驗等信息，推薦合適的治療方案，供醫生參考。

7月25日，美國健康醫療媒體STAT曝出，IBM公司的內部文件顯示，用於輔助醫生設計癌症治療方案的AI產品沃森問題不小：除了上面那種來自用戶的抱怨，還會開出危險和錯誤的癌症治療方案。

沃森腫瘤是IBM在醫療人工智慧領域的重要產品，能夠根據患者病歷等信息提供包括乳腺癌、肺癌、直腸癌、結腸癌等多種癌症的治療方案，合作者有紀念斯隆-凱特琳癌症中心 （Memorial Sloan Kettering Cancer Center）、梅奧醫院（Mayo Clinic）、奎斯特診斷公司（Quest Diagnostics）等醫療領域的著名機構。根據其中國代理公司官網，國內已經有20多個省的近80家醫院引進沃森腫瘤會診中心。

IBM」家醜」被泄

STAT收到的內部文件，是時任IBM 沃森醫療部門執行健康官（Health』s deputy chief health officer）Andrew Norden於2017年夏天，在公司內部報告上用的幻燈片。

據STAT的報道，IBM在這份報告里，對沃森的批評毫不留情，要點包括：

沃森系統的訓練，使用的不是真實患者的數據，而是假想患者的假想數據。

訓練數據不夠。幻燈片展示了八種癌症。截至報告發布當天，訓練數據量最高的肺癌只有635例，而最低的卵巢癌只有106例。

訓練沃森時，對假想患者推薦的治療方案，是基於紀念斯隆-凱特琳癌症中心專家的方案，而非醫療指南或真實證據。

在對假想情形進行試驗時，沃森開出了不合適且危險的治療方案。比如，它為一個顯示有可能正嚴重出血的肺癌患者，推薦同時使用化療和安維汀。然而，安維汀可能引起嚴重的出血，不應推薦給已經出血的患者。

用來評估沃森系統和癌症專家間方案相似性的實驗，可能有偏向性，使兩種方案很容易相同。

人工智慧公司 Nara Logics的CEO Jana Eggers在接受STAT採訪時指出，沃森系統顯然沒有使用醫療系統中的大數據，「我搞不懂，明明有真人的真實數據，為什麼他們還要生造出一堆幻想的病人出來？」

一些專家認為，如果這些假想數據對真實患者狀況有代表性，也能很好地訓練沃森。不過，「我們還需要看到數據有代表性的證據」，斯坦福大學生物信息研究中心副教授Jonathan Chen說。

事實上，對沃森的質疑從未斷過。早在去年2017年，STAT就發表過一份對沃森醫療人工智慧系統的調查，對上述問題都有提及。原IBM 沃森研究中心的Claudia Perlich教授，在2017年接受美國科技媒體Gizmodo採訪時，更直言沃森醫療是「小兒科」，「我們數據科學共同體的認知是，沃森能做的，你都應該可能找到免費軟體來實現，或者自己做一個。」

此次的內部文件，更多是暴露了IBM自身對沃森局限性的認知。

今年5月，IBM對其沃森醫療部門進行裁員。IBM發言人Ian Colley告訴電氣電子工程師學會（IEEE），只有少量沃森醫療部門工作人員被裁掉，裁員也只是部門精簡的一部分。然而，被裁掉的一名工程師透露，大約有80%的員工被迫離職。「離職的都是重要技術人員，以及和客戶面對面打交道的人，可不是無關緊要的行政人員。」這名工程師說。

推薦治療並非主流

人工智慧在醫療中有很多應用場景，包括醫學影像、基因組信息處理、藥物研發、健康數據管理、導診機器人等等。臨床診療方面的應用對現有醫療實踐影響最顯著，所以最受關注。沃森腫瘤這種試圖根據患者信息，推薦治療方案的應用，只是其中一種，也不是主流。

目前在臨床方面，醫療人工智慧多與醫學影像相關，著重在為醫生提供各式工具，或優化已有影像工具，以幫助他們診斷或治療。

比如，人工智慧診斷工具可以從醫學影像中識別人眼看不見，或者容易看漏的病灶。在這方面，根據CT影像識別肺結節篩查肺癌，是目前最常見的應用之一。

利用機器學習，識別肺結節。圖片來源：Vatsal Sodha, Medium

也有團隊在用機器學習提升醫學影像的成像速度和質量。照過X光片的人，可能記得，醫生會讓病人屏住呼吸。這樣做的目的，是為了防止呼吸運動影響成像。X光成像只需幾秒鐘，但正電子發射計算機斷層掃描（PET）通常要進行十幾分鐘，就不是屏住呼吸能解決的了。目前很多研究團隊，通過自動門控技術，修復呼吸對PET成像的影響。

原始PET成像（a）和使用自動門控技術糾偏過的PET成像（b），（b）圖的偽影更少了。圖片來源：Walker et al. 2018。

人工智慧也可將2D影像變成3D影像，幫助外科醫生進行手術。清華大學廖洪恩教授帶領的微創診療與三維影像實驗室，將醫學圖像智能化分析運用在血管內介入手術，讓醫生能看見手術導管在血管里的具體位置。他們的評估顯示，影像中導管形狀與實際導管的誤差僅為2.23 ± 0.87 毫米（Chen et al. 2017）。目前該研究還在進行動物實驗。除此之外，他們還將該技術用於骨科移植，讓醫生能看見患者股骨的三維形態，幫助醫生匹配合適的植入物。

血管內介入手術示意圖

（來源：Capture Vascular, YouTube）

還有一些應用，中國科學院自動化研究所研究員田捷告訴《知識分子》，是通過人工智慧幫助患者避免不必要的手術。外科大夫在為結直腸癌病患做手術前，會為患者做一個輔助化療，以控制癌症的發展，之後再進行手術。一部分病患在輔助化療以後，病情已經完全緩解，但醫生無法判斷患者體內是否還有癌細胞。田捷介紹，他所在研究所和北大腫瘤醫院的合作研究，通過分析醫療影像，有90%的把握把那些已經緩解的患者篩選出來，免受開刀。

北美放射醫學大會這樣描述未來的醫學影像中心：「醫學影像中心就像飛機駕駛艙一樣，是各種各樣信息的綜合體；而未來的醫生則相當于飛行員，要處理各種各樣的信息」。田捷很贊同這個說法，並補充道，「在我看來，AI不會替代醫生，只會更有效地輔助醫生。而醫生也不應懼怕新興技術，而是積極地去利用它，使用它。」

醫療人工智慧商業前景不明

從實驗室里的人工智慧研究，到實驗室外的商業化產品，過程並不簡單。億歐智庫的一項統計顯示，11家千萬級以上的醫療人工智慧企業中，有7家都與醫療影像相關。現在已經有多家公司進駐各大三甲醫院。這些產品主要利用目標識別，針對某個疾病，輔助診斷疾病。

由於目前的人工智慧產品都只針對單項任務，對醫生的幫助有待觀察。比如，騰訊覓影針對肺部的影像，識別肺結節。「醫生看片時不只找出結節，還需對結節定性。另外，我們肺里還有其他病變，比如：還可能有梗塞，可能還有支氣管擴張，還有肺的纖維化等。」廣東省人民醫院影像醫學部主任兼放射科主任梁長虹指出，「如果系統能把五、六種常見病的查找結合在一起，那將滿足胸片閱讀工作90%以上，才基本上能說幫助到我們醫生，減輕我們的負擔。」

談到此次沃森腫瘤問題被曝，東軟醫療首席科學家黃峰認為，IBM的問題不會影響到中國的相關產業。「人工智慧的作用是多方面的，IBM選擇了風險最大的應用。國內企業要務實的多。」黃峰說。

目前來看，醫療人工智慧的商業前景還不明朗。「我認為他們現在還缺乏比較好的商業模式，基本都沒有產生盈利，基本上還在探索商業模式及利用數據完善產品。」梁長虹說，「現在基本上是把系統給到醫院，利用醫院的現有數據，對系統進行訓練。」在這個意義上，目前人工智慧對醫院數據的依賴，要大於醫院對人工智慧系統的需求。

「人工智慧輔助診療系統尚未獲批正式用於臨床。用於臨床之前，它們需要通過葯監局的安全性和有效性的審批。而目前為止，沒有任何一個系統得到審批。」田捷說。

參考文獻：

1. IBM』s Watson supercomputer recommended 『unsafe and incorrect』 cancer treatments, internal documents show, STAT,https://www.statnews.com/2018/07/25/ibm-watson-recommended-unsafe-incorrect-treatments/

2. Layoffs at Watson Health Reveal IBM』s Problem With AI, IEEE, https://spectrum.ieee.org/the-human-os/robotics/artificial-intelligence/layoffs-at-watson-health-reveal-ibms-problem-with-ai

3. Why Everyone Is Hating on IBM Watson—Including the People Who Helped Make It, Gizmodo, https://gizmodo.com/why-everyone-is-hating-on-watson-including-the-people-w-1797510888

4. Chen, Fang, Jia Liu, and Hongen Liao. "3D Catheter Shape Determination for Endovascular Navigation Using a Two-Step Particle Filter and Ultrasound Scanning." IEEE transactions on medical imaging 36, no. 3 (2017): 685-695.

5. Walker, Matthew D., Kevin M. Bradley, and Daniel R. McGowan. "Evaluation of principal component analysis-based data-driven respiratory gating for positron emission tomography." The British journal of radiology 91, no. 1085 (2018): 20170793.

6.《2018中國醫療人工智慧發展研究報告》，億歐智庫，2018

製版編輯 | 皮皮魚

本頁刊發內容未經書面許可禁止轉載及使用

公眾號、報刊等轉載請聯繫授權

copyright@zhishifenzi.com

商務合作請聯繫

business@zhishifenzi.com

知識分子為更好的智趣生活 ID：The-Intellectual

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！