演算法是新的醫藥：人工智慧醫療的風口

作者：Hugh Harvey

編譯：weakish

編者按：影像學專家和臨床學者，Hugh Harvey醫生撰文提出，演算法是一種全新的醫藥，以製藥業發展的歷史為鑒，可以預見AI在醫學方面的行業發展趨勢。Huge Harvey曾在NHS和ICR接受訓練，兩度當選ICR評選的年度最佳科普作家。曾就職於Babylon Health，領導公司的合規團隊獲得了世界上第一個基於AI的分診服務的CE認證商標。目前從事影像科諮詢，任英國皇家影像學醫師協會信息學委員會成員，並擔任包括Kheiron Medical在內的一些AI初創公司的顧問。

曾幾何時，藥劑師和治療師在后街和集市上出售他們的洗劑和藥劑，承諾這些會為所有願意購買的人提供耐力和活力。蛇油與奇蹟療法一起兜售，其中大部分除了作為安慰劑外沒有任何作用。漸漸地，循證實踐誕生了，現代醫學來臨了。只有那些證明了自身的有效性的療法保留下來，已成立藥物的處方緩慢而確定地增長。現在醫生開處方，藥劑師核查和發放藥物，病人總的來說好轉了。今天，我們有一個嚴格監管、激烈競爭和公開賺取荒唐的利潤的全球製藥業。去年，前十大製藥公司的總收入共計四千億美元以上。現在，我們正處於一個全新的十億美元產業的風口上；「醫療演算法業」（medical algorithmia）正準備把醫學推向更高的位置……

演算法是新的藥品，醫生是新技術處方開具者。

要理解人工智慧（AI）和演算法行業（也就是「大技術」（Big Tech）、「大演算法業」（Big Algorithmia），「數字健康」（Digital Health）的未來，人們只需看看當初製藥業是如何變成龐然大物的，包括新葯的研發和上市，醫學實踐是如何圍繞安全給葯和藥物監測進行的，以及醫生是如何學習了解藥物的作用機制和副作用的。

因此，根據從大製藥業現有實踐中得到的經驗教訓，我預測圍繞演算法的一些輔助產業即將爆發。

廣告和營銷

英國製藥行業協會（Association of the British Pharmaceutical Industry，ABPI）以及美國研究研究與製造商協會（Pharmaceutical Research and Manufacturers of America，PHRMA）制定了行業規範，所有製藥公司在推廣其產品以及和醫護從業人員互動時必須遵守。如果你願意，可以將它稱為由罰款支撐的道德框架。它詳細描述了公司在向臨床醫生和患者推廣藥物時的行為規範。它們包括諸如公司可以在取悅客戶、免費鋼筆、CME（醫學繼續教育）資助方面花多少錢，以及「溝通試驗結果」的最佳實踐。其目的是防止傳遞錯誤信息、誇大療效和統計上的小花招 ——大量製藥公司精於此道。

然而，批評者仍然存在。Ben Goldacre醫生，一個道德破產的世界（他稱之為製藥惡業（Bad Pharma））的堅定抵抗者，如此寫道，儘管有倫理規範，製藥公司仍設法規避，「……設計不當的試驗，少得令人絕望的不具代表性的特別患者，使用設計上存在缺陷的分析技術，通過這樣的方式，他們誇大療效……」。聽起來有點耳熟？其他有效的批評包括製藥公司缺乏發表負面試驗結果的壓力。

顯然，也可以如此批評演算法開發人員。我從未看到一篇關於深度學習的論文，公開聲稱「我們的演算法沒有效果」，其中一些具有「積極」結果的論文使用了一些相當可疑的統計學的障眼法。當然，整體而言，AI周圍仍然圍繞著一股炒作和煽動的風氣。我想這部分是因為依賴風險投資的公司，因為害怕未來沒有人給它們投資而不願意承認某些演算法不起作用。每篇AI學術論文（順便一提，它們很少經過同行評審）後都緊跟著一篇誇大的媒體新聞稿，聲稱「演算法X在Y領域的表現超過了醫生！」，這肯定不是什麼好事。

我們不應該僅僅責備媒體。只需到今年的RSNA（北美放射協會年會）的攤位前看看，就可以了解一些公司的誇大宣傳有多過分。我們需要記住的是，演算法的強力臨床調查和後續營銷的環境和框架仍在初始階段，也正是在這樣的一個環境下，隨著監管機構和開發人員找到解決方法，我們將看到這方面的大規模加速增長。在此之前，我們只能透過炒作的重重迷霧來尋找實際的真相。

所有的製藥公司都有一個負責臨床事務的外部溝通的專門團隊——稱為醫務團隊。團隊由在醫療事務、醫學寫作和科學聯絡方面受過訓練的專業醫生組成，他們的任務是簽署任何外部學術出版物，品牌和營銷，與意見領袖和客戶進行科學交流，並確保所有交流在臨床上的準確性。畢竟，任何被發現發布虛假廣告的製藥公司都會受到重罰。因此，我預計AI開發人員也需要聘請一個「醫務團隊」來處理同樣的交流任務。由未經臨床培訓的工作人員從事AI公司臨床交流工作，特別是直接處理醫療保健事物，是不可接受的。

同時，我預測，在FDA及其等效的驗證和監管框架之外，會有一個監督演算法營銷的機構，並引入一套倫理操守準則。該機構很可能會借鑒製藥行業規範在營銷、銷售和廣告方面的準則，以確保醫院確實在銷售高新技術而不是數字蛇油。它可能會複製「取悅客戶」的規則，並設立準則，規定業務開發經理可以或不可以說什麼，甚至可能會就關於演算法有效性的新聞稿如何行文制定相應的指南。如果某個地方的某個人已經建立了這樣一個機構，那麼我不會感到驚訝——它應該是大有裨益的……

但是，如果沒有可靠的臨床研究和臨床試驗作為基礎，這一切都將是空中樓閣。我之前已經談過統計分析報告和監管框架——但還沒有討論演算法實現的後遺症——我接下來會談論大製藥業生命周期的下一部分——釋放到臨床工作流程的荒野之中後，對演算法的持續監督。

演算法安全和技術警戒

世界上每一家醫院都有一名藥劑師負責監督用藥安全。無論他們是專註於處方錯誤、出院溝通，還是無菌製備、分發失誤，他們的任務是確保在臨床實踐中最小化藥物的危害和副作用。這是整個患者安全中非常重要的一部分，常常是日常臨床護理的焦點。（醫院中的物理醫療設備也是如此——我擔保有僱員負責確保裝備的電氣合規性、質量保證和日常維護。）

演算法安全性需要相同水平的監督。演算法不僅可能造成意外傷害（沒有演算法是完美的），還需要根據監管要求接受嚴格的上市後監督。醫療設備的國際標準（包括ISO 13485）明確規定，開發者應該確保有一個穩健的內置系統監控真實世界的設備表現。這包括定期審計演算法輸出，並提供反饋機制以確保錯誤得到處理。

技術警戒（technovigilance）是一個新名詞——它是受大製藥業的「藥物警戒」這個詞的啟發而提出。類似強制報告醫藥安全的英國的黃牌系統以及美國的藥品評價和研究中心（Center for Drug Evaluation and Research）系統，技術警戒這一設計確保公司和最終用戶將所有新的或意料之外的傷害報告給一個中央管理實體。例如，如果檢測患者心房顫動（AF）發作的演算法沒有觸發導致患者遭受傷害，那麼該事件必須同時報告給開發者和相關安全監督機構。

我想說，我預測圍繞安全和技術警戒概念將產生一個行業——但實際上已經有這樣一個行業了！第三方監管公司現已提供技術警戒諮詢，並幫助建立醫療設備的合規流程。該行業的擴張將提供監控演算法安全性的服務。該行業不僅將確保持續性的安全監控，還將與極其重要的IV期臨床研究結合，在現場環境對演算法的表現進行臨床評估，以評定其安全表現。

醫學教育和相關健康專家

漫畫譯文：我無法相信學習還在教孩子們零假設。我記得好幾年前就讀到一個重大研究，最終證偽了零假設。

醫學教育也必須適應新的數字化未來。正如今天的醫學生必須學習藥效動力學機制、半衰期、生物效應和化學串聯反應，未來的學生將需要了解統計偏差、人工神經網路函數、數據結構和解釋演算法輸出。除了學習藥物類別及其副作用，醫生還需要了解不同類別的演算法，其適應症和局限性，以及如何在上下文中解釋其輸出結果。和藥物安全性一樣，醫生需要關注演算法的安全性。例如，一種藥物有已知的功效、預期的目標人群、推薦劑量和監測要求。開處方前，醫生需要了解藥物的大部分情況（如果他們不了解，他們不應該把葯開進處方！）。類似地，演算法有已知的精確度、預期的目標人群、推薦用法，並且需要監測。毫無疑問，在演算法的局限性方面，醫生應該接受和藥物的副作用一樣程度的教育。

所以，我預測，將產生一個向醫生提供數據科學教育的產業。這已經開始發生了，在線課程和MOOC開放課程面向所有想成為數據科學家的人。我認為我們將開始看到專門針對臨床醫生的課程，重點關注醫療背景下的演算法和解釋演算法輸出所需的概率學知識。

當然，臨床實踐中演算法的最終用戶並不僅僅包括醫生。醫學走廊里充滿了不是醫師的專業人士，幾乎醫學的每個方面都有。我們有超聲波檢驗師、手術室護士、病房管理員、搬運工、藥劑師。因此，我預測會出現一個專註於演算法的全新醫療專業，我們稱他們為「演算法師」。

作為臨床演算法的專家，演算法師將檢查醫院使用的演算法是否正確，使用演算法的場景是否正確，在選型流程中幫助選擇好的演算法，提供哪些技術適用哪些場景的建議，監督醫院內的演算法安全，同時負責「技術警戒」報告。我想，成為演算法師所需要的技能組合將是非常利基的——既有基本的臨床基礎，也有數據科學的背景。

你可能想知道為什麼需要單獨的專業。好問題！在我看來，即使我們有效地教育醫生，他們不具備成為真正的全職演算法師的時間或專門技能。事實上，讓醫生遠離一線是臨床訓練上的浪費。是的，一些臨床學者具備必要的技能並且可能領導演算法師部門，但是在醫院的日常臨床活動中，對這些專家意見的需求會非常大，因而大部分工作都需要經過專門訓練的專職醫療人員來完成。相比花錢讓醫生遠離患者，專業工作人員的性價比也更高。

所以我們了解了什麼？

藥物無法提供安全有效的醫療，是人和系統提供了這些。AI和演算法同樣適用這一點。

通過觀察大製藥業，AI開發人員得以開始預測其行業內外的發展趨勢。準備好適應和接受這些變化對於可持續增長至關重要。

從醫療事務和營銷指導，安全和技術警戒，到教育和訓練專業人員，AI開發人員都可以參與整個支持產業的生態系統並從中受益。 如果他們參與這些，從大演算法業中最終受益最多的是我們的患者。

如果你和我一樣為AI在醫藥方面的未來而激動，並想進一步討論這些想法，請聯繫我。我的推特賬號是@drhughharvey

如果你喜歡這篇文章，請點贊分享。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！