醫療AI：讓人工智慧不再神秘且更加可信

葯明康德AI/編譯（來源：IEEE Spectrum；作者：Eliza Strickland）

本文由葯明康德團隊整理，歡迎分享至朋友圈。轉載請於文章開頭註明「本文來源於葯明康德AI微信公眾號（ID：gh_06af933b93d6）」

對於人工智慧技術來講，醫療行業似乎是應用這一技術的理想場所。每一次醫學檢測、醫生就診和流程都被記錄在案，越來越多的患者記錄已經開始以電子格式進行存儲。人工智慧系統可以消化這些數據，並就如何提供更好和更划算的治療方案提出建議。

許多研究人員正在構建這樣的系統：醫學和計算機科學期刊上充斥著描述實驗性AI的文章，這些實驗性AI可以解析記錄、掃描圖像並給出關於患者健康的診斷和預測結果。然而，這些AI系統很少能夠在醫院進行實際應用。

所以這其中的障礙究竟在哪裡呢？這不是技術性的，匹茲堡大學醫學院的醫學研究員和醫生Shinjini Kundu博士表示，這其中的障礙並不在技術，而是來自信任方面。「這項技術可能是非常有效的，但是如何讓人類開始使用並依賴這項技術呢？」

大多數的醫療AI系統的運作方式都像「黑匣子」一樣，在輸入外界的數據之後直接輸出一個答案，但是得到答案的過程我們並不是完全了解。對於他們不完全理解的推測，醫生通常傾向於持謹慎態度，這一點是可以理解的，因此，研究人員正在致力於使用各種技術來創建新的系統，將AI做出推測的過程展示在人們眼前。

AI為我們展現的畫面

在最近召開的聯合國「AI for Good」峰會上，Kundu博士闡述了她的研究：她正在研究那些能夠分析醫學圖像的AI系統，並試圖對AI得出的結果進行解釋。她從AI系統中的機器學習演算法開始著手，這些演算法能夠監測核磁共振成像（MRI）等醫學圖像，並從中發現醫生感興趣的模式。

在Kundu博士最新進行的實驗中，她使用AI系統分析了膝關節的MRI圖像，並預測其中的哪些有在三年內患上骨關節炎的可能性。然後，AI系統使用一種叫做「生成建模」的技術，創建了一個新的圖像，這個新的MRI圖像展示了一幅會在三年內患上骨關節炎的膝關節圖像。

人工智慧生成的圖像顯示，它是基於MRI圖像中顯示的軟骨細微變化來做出相應的預測的，而這一點人類醫生之前從未注意到。「這是這項研究中另一個非常重要的結果，」Kundu博士說道：「它讓人類了解到，關節炎的早期發展過程可能是什麼樣子的。」

▲AI如何為大眾展現畫面呢？（圖片來源：RF123）

你從這些圖像中看到了什麼？

Rima Arnaout博士是加利福尼亞大學舊金山分校的助理教授。她訓練了一個神經網路，從而對超聲心動圖進行分類，而這些超聲圖像對診斷心臟疾病至關重要。在《Digital Medicine》上她發表了一項研究：和人類心臟病專家相比，她所在研究團隊開發的人工智慧系統可以更準確地對不同角度低解析度心臟圖像進行分類。她計劃利用這項技術和相關信息，來識別圖像中的解剖結構，並對心臟疾病和缺陷進行診斷。

但是這樣的診斷系統卻不太可能被實際使用。Arnaout博士表示：「醫生永遠不會做出他們無法認同的診斷，並且說是電腦讓他們這樣做的。」因此，她使用了兩種技術來闡釋這個分類系統的運作原理。在遮擋實驗中，她掩蓋了部分測試圖像，以了解這種變化如何改變了AI輸出的結果；通過顯著性映射，她使用原始圖像來追蹤神經網路輸出的結果，從而試圖發現原始圖像中的哪些像素對結果的影響最大。

這兩種技術都向我們展示出了，圖像中的哪些位置對人工智慧的預測結果影響最大。同時我們也很高興的看到，這些圖像中對人工智慧預測結果影響最大的區域，也是人類專家認為最重要的部分。

在相關性之外

在美國華盛頓州Redmond市，微軟研究院的首席研究員Rich Caruana博士幾十年來一直致力於建立智能且易懂的機器學習模型。他開發出的AI系統使用來自醫院的電子健康記錄，來對患者的治療結果進行預測。但他發現，即使是最高精度的模型也可能會隱藏著嚴重的缺陷。

為了論證這一點，Caruana博士引用了一項使用肺炎患者數據集進行的研究。在研究中，他訓練了一個機器學習模型，以區分需入院接受治療的高危患者，以及可以安全留在家中休養的風險較低患者。該模型發現，患有心臟病的人死於肺炎的可能性較小，並根據這一點把這些心臟病患者劃入了低風險患者群體。

看起來AI得出的這個結論似乎非常離譜。針對這一點，Caruana博士解釋說，那些被診斷出肺炎的心臟病患者治療結果更好並不是因為他們面臨的風險較低，而是因為他們通常在一出現呼吸問題的相關跡象時就立刻去了急診室，因此能夠得到迅速的診斷和治療。「AI模型分析後發現的數據之間相關性是真實的，」Caruana博士說，「但是如果我們僅僅依靠它來指導醫療干預，我們實際上會對某些患者造成更大的傷害，甚至可能讓他們面臨死亡的威脅。」 Caruana博士現在正在研究能夠清楚顯示變數之間關係的機器學習模型，從而能夠判斷該AI模型在統計學方面的準確性，以及其是否具有臨床意義。

參考資料：

[1] Making Medical AI Trustworthy and Transparent

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！