業界 | 醫療AI應該更關注「數據」還是「人」？數據工程師反思機器學習模型的力量

科技 09-06

選自hackernoon

作者：SeattleDataGuy

機器之心編譯

參與：高璇、張倩

機器學習的引入為各行各業的從業人員提供了得力助手，但由此也引發了一系列問題，如：人類在信賴機器學習模型的同時如何避免對機器的依賴？尤其是在醫療等關乎人類生命健康的領域。本文作者是一名醫療行業的數據工程師，他在工作中不斷反思自己的工作給患者、醫生等相關群體帶來的影響，認為自己的工作生死攸關，需要更多地關注「人」而非「數據」。

最近，《華爾街日報》的一篇文章——《Models Will Run the World》（模型將玩轉世界）在網上流傳。我相信這種觀點在很大程度上是有道理的。機器學習演算法和模型在各行各業都越來越普遍，也越來越受人信賴。但是反過來看，這導致我們花在結果審查的時間上越來越少，反而更加依賴系統給出答案。我們已經依靠谷歌、Facebook 和亞馬遜等公司來提供約會、朋友生日以及最佳產品等方面的信息。當我們從這些公司得到答案時，一些人甚至會不假思索地聽之信之。

作一名在醫療行業工作的數據工程師是一件喜憂參半的事情。在過去一年半的時間裡，我花了大量的時間來開發一些產品，幫助醫護人員更好地做決定。特別針對醫療質量、醫療欺詐和藥物濫用問題。

當我在研究各種指標和演算法時，我不斷地問自己一些問題：

這對患者的治療有何影響？

這對醫生的決定有何影響？

這會改善一個群體的長期健康狀況嗎？

在我看來，大多數醫院都像企業一樣運作，但希望他們的目標不是不碰底線就行了。我希望他們能先為病人和社區服務。如果真是這樣，那麼我們構建的演算法和模型就不能僅僅關注於底線了（就像其他行業一樣）。相反，他們真的需要花點時間考慮這些演算法和指標對病人及其整體健康有何影響，這種衡量標準是否會以一種消極的方式改變醫生的行為？

華盛頓健康聯盟（Washington Health Alliance）很擅長從成本和醫療的角度報道改善醫療健康的各種方法，它寫了一篇報道，旨在通過減少冗餘的過程來降低醫療健康成本。

事實上，我也做過類似的項目。那時我正在思考，如果一些醫生矯枉過正會產生什麼後果？我相信很多醫生都會適當調整他們的治療過程。然而，要是調整過度會怎麼樣呢？

如果一些醫生只是因為不想被貼上浪費的標籤而大幅改變他們的行為，最後的結果弊大於利，這樣下去會有什麼後果？

醫生可能會因為擔心醫院和病人花費太多而導致他們錯過明顯的診斷嗎？或許更糟的是，未來他們可能會過度依賴模型進行診斷。就個人而言，在受到批評時我會過度糾正自己的行為，那麼如何在醫生身上避免這種現象？允許人自行做出正確決定和強迫他們依賴機器思維（如谷歌地圖，有多少人真正記得自己要去的地方）之間的界限非常微妙。