算法是新的醫(yī)藥：AI在醫(yī)學(xué)方面的行業(yè)發(fā)展趨勢

編者按：影像學(xué)專家和臨床學(xué)者，Hugh Harvey醫(yī)生撰文提出，算法是一種全新的醫(yī)藥，以制藥業(yè)發(fā)展的歷史為鑒，可以預(yù)見AI在醫(yī)學(xué)方面的行業(yè)發(fā)展趨勢。Huge Harvey曾在NHS和ICR接受訓(xùn)練，兩度當(dāng)選ICR評選的年度最佳科普作家。曾就職于Babylon Health，領(lǐng)導(dǎo)公司的合規(guī)團隊獲得了世界上第一個基于AI的分診服務(wù)的CE認證商標(biāo)。目前從事影像科咨詢，任英國皇家影像學(xué)醫(yī)師協(xié)會信息學(xué)委員會成員，并擔(dān)任包括Kheiron Medical在內(nèi)的一些AI初創(chuàng)公司的顧問。

曾幾何時，藥劑師和治療師在后街和集市上出售他們的洗劑和藥劑，承諾這些會為所有愿意購買的人提供耐力和活力。蛇油與奇跡療法一起兜售，其中大部分除了作為安慰劑外沒有任何作用。漸漸地，循證實踐誕生了，現(xiàn)代醫(yī)學(xué)來臨了。只有那些證明了自身的有效性的療法保留下來，已成立藥物的處方緩慢而確定地增長?，F(xiàn)在醫(yī)生開處方，藥劑師核查和發(fā)放藥物，病人總的來說好轉(zhuǎn)了。今天，我們有一個嚴格監(jiān)管、激烈競爭和公開賺取荒唐的利潤的全球制藥業(yè)。去年，前十大制藥公司的總收入共計四千億美元以上。現(xiàn)在，我們正處于一個全新的十億美元產(chǎn)業(yè)的風(fēng)口上；“醫(yī)療算法業(yè)”（medical algorithmia）正準(zhǔn)備把醫(yī)學(xué)推向更高的位置……

算法是新的藥品，醫(yī)生是新技術(shù)處方開具者。

要理解人工智能（AI）和算法行業(yè)（也就是“大技術(shù)”（Big Tech）、“大算法業(yè)”（Big Algorithmia），“數(shù)字健康”（Digital Health）的未來，人們只需看看當(dāng)初制藥業(yè)是如何變成龐然大物的，包括新藥的研發(fā)和上市，醫(yī)學(xué)實踐是如何圍繞安全給藥和藥物監(jiān)測進行的，以及醫(yī)生是如何學(xué)習(xí)了解藥物的作用機制和副作用的。

因此，根據(jù)從大制藥業(yè)現(xiàn)有實踐中得到的經(jīng)驗教訓(xùn)，我預(yù)測圍繞算法的一些輔助產(chǎn)業(yè)即將爆發(fā)。

廣告和營銷

英國制藥行業(yè)協(xié)會（Association of the British Pharmaceutical Industry，ABPI）以及美國研究研究與制造商協(xié)會（Pharmaceutical Research and Manufacturers of America，PHRMA）制定了行業(yè)規(guī)范，所有制藥公司在推廣其產(chǎn)品以及和醫(yī)護從業(yè)人員互動時必須遵守。如果你愿意，可以將它稱為由罰款支撐的道德框架。它詳細描述了公司在向臨床醫(yī)生和患者推廣藥物時的行為規(guī)范。它們包括諸如公司可以在取悅客戶、免費鋼筆、CME（醫(yī)學(xué)繼續(xù)教育）資助方面花多少錢，以及“溝通試驗結(jié)果”的最佳實踐。其目的是防止傳遞錯誤信息、夸大療效和統(tǒng)計上的小花招 ——大量制藥公司精于此道。

然而，批評者仍然存在。Ben Goldacre醫(yī)生，一個道德破產(chǎn)的世界（他稱之為制藥惡業(yè)（Bad Pharma））的堅定抵抗者，如此寫道，盡管有倫理規(guī)范，制藥公司仍設(shè)法規(guī)避，“……設(shè)計不當(dāng)?shù)脑囼?，少得令人絕望的不具代表性的特別患者，使用設(shè)計上存在缺陷的分析技術(shù)，通過這樣的方式，他們夸大療效……”。聽起來有點耳熟？其他有效的批評包括制藥公司缺乏發(fā)表負面試驗結(jié)果的壓力。

顯然，也可以如此批評算法開發(fā)人員。我從未看到一篇關(guān)于深度學(xué)習(xí)的論文，公開聲稱“我們的算法沒有效果”，其中一些具有“積極”結(jié)果的論文使用了一些相當(dāng)可疑的統(tǒng)計學(xué)的障眼法。當(dāng)然，整體而言，AI周圍仍然圍繞著一股炒作和煽動的風(fēng)氣。我想這部分是因為依賴風(fēng)險投資的公司，因為害怕未來沒有人給它們投資而不愿意承認某些算法不起作用。每篇AI學(xué)術(shù)論文（順便一提，它們很少經(jīng)過同行評審）后都緊跟著一篇夸大的媒體新聞稿，聲稱“算法X在Y領(lǐng)域的表現(xiàn)超過了醫(yī)生！”，這肯定不是什么好事。

我們不應(yīng)該僅僅責(zé)備媒體。只需到今年的RSNA（北美放射協(xié)會年會）的攤位前看看，就可以了解一些公司的夸大宣傳有多過分。我們需要記住的是，算法的強力臨床調(diào)查和后續(xù)營銷的環(huán)境和框架仍在初始階段，也正是在這樣的一個環(huán)境下，隨著監(jiān)管機構(gòu)和開發(fā)人員找到解決方法，我們將看到這方面的大規(guī)模加速增長。在此之前，我們只能透過炒作的重重迷霧來尋找實際的真相。

所有的制藥公司都有一個負責(zé)臨床事務(wù)的外部溝通的專門團隊——稱為醫(yī)務(wù)團隊。團隊由在醫(yī)療事務(wù)、醫(yī)學(xué)寫作和科學(xué)聯(lián)絡(luò)方面受過訓(xùn)練的專業(yè)醫(yī)生組成，他們的任務(wù)是簽署任何外部學(xué)術(shù)出版物，品牌和營銷，與意見領(lǐng)袖和客戶進行科學(xué)交流，并確保所有交流在臨床上的準(zhǔn)確性。畢竟，任何被發(fā)現(xiàn)發(fā)布虛假廣告的制藥公司都會受到重罰。因此，我預(yù)計AI開發(fā)人員也需要聘請一個“醫(yī)務(wù)團隊”來處理同樣的交流任務(wù)。由未經(jīng)臨床培訓(xùn)的工作人員從事AI公司臨床交流工作，特別是直接處理醫(yī)療保健事物，是不可接受的。

同時，我預(yù)測，在FDA及其等效的驗證和監(jiān)管框架之外，會有一個監(jiān)督算法營銷的機構(gòu)，并引入一套倫理操守準(zhǔn)則。該機構(gòu)很可能會借鑒制藥行業(yè)規(guī)范在營銷、銷售和廣告方面的準(zhǔn)則，以確保醫(yī)院確實在銷售高新技術(shù)而不是數(shù)字蛇油。它可能會復(fù)制“取悅客戶”的規(guī)則，并設(shè)立準(zhǔn)則，規(guī)定業(yè)務(wù)開發(fā)經(jīng)理可以或不可以說什么，甚至可能會就關(guān)于算法有效性的新聞稿如何行文制定相應(yīng)的指南。如果某個地方的某個人已經(jīng)建立了這樣一個機構(gòu)，那么我不會感到驚訝——它應(yīng)該是大有裨益的……

但是，如果沒有可靠的臨床研究和臨床試驗作為基礎(chǔ)，這一切都將是空中樓閣。我之前已經(jīng)談過統(tǒng)計分析報告和監(jiān)管框架——但還沒有討論算法實現(xiàn)的后遺癥——我接下來會談?wù)摯笾扑帢I(yè)生命周期的下一部分——釋放到臨床工作流程的荒野之中后，對算法的持續(xù)監(jiān)督。

算法安全和技術(shù)警戒

世界上每一家醫(yī)院都有一名藥劑師負責(zé)監(jiān)督用藥安全。無論他們是專注于處方錯誤、出院溝通，還是無菌制備、分發(fā)失誤，他們的任務(wù)是確保在臨床實踐中最小化藥物的危害和副作用。這是整個患者安全中非常重要的一部分，常常是日常臨床護理的焦點。（醫(yī)院中的物理醫(yī)療設(shè)備也是如此——我擔(dān)保有雇員負責(zé)確保裝備的電氣合規(guī)性、質(zhì)量保證和日常維護。）

算法安全性需要相同水平的監(jiān)督。算法不僅可能造成意外傷害（沒有算法是完美的），還需要根據(jù)監(jiān)管要求接受嚴格的上市后監(jiān)督。醫(yī)療設(shè)備的國際標(biāo)準(zhǔn)（包括ISO 13485）明確規(guī)定，開發(fā)者應(yīng)該確保有一個穩(wěn)健的內(nèi)置系統(tǒng)監(jiān)控真實世界的設(shè)備表現(xiàn)。這包括定期審計算法輸出，并提供反饋機制以確保錯誤得到處理。

技術(shù)警戒（technovigilance）是一個新名詞——它是受大制藥業(yè)的“藥物警戒”這個詞的啟發(fā)而提出。類似強制報告醫(yī)藥安全的英國的黃牌系統(tǒng)以及美國的藥品評價和研究中心（Center for Drug Evaluation and Research）系統(tǒng)，技術(shù)警戒這一設(shè)計確保公司和最終用戶將所有新的或意料之外的傷害報告給一個中央管理實體。例如，如果檢測患者心房顫動（AF）發(fā)作的算法沒有觸發(fā)導(dǎo)致患者遭受傷害，那么該事件必須同時報告給開發(fā)者和相關(guān)安全監(jiān)督機構(gòu)。

我想說，我預(yù)測圍繞安全和技術(shù)警戒概念將產(chǎn)生一個行業(yè)——但實際上已經(jīng)有這樣一個行業(yè)了！第三方監(jiān)管公司現(xiàn)已提供技術(shù)警戒咨詢，并幫助建立醫(yī)療設(shè)備的合規(guī)流程。該行業(yè)的擴張將提供監(jiān)控算法安全性的服務(wù)。該行業(yè)不僅將確保持續(xù)性的安全監(jiān)控，還將與極其重要的IV期臨床研究結(jié)合，在現(xiàn)場環(huán)境對算法的表現(xiàn)進行臨床評估，以評定其安全表現(xiàn)。

醫(yī)學(xué)教育和相關(guān)健康專家

漫畫譯文：我無法相信學(xué)習(xí)還在教孩子們零假設(shè)。我記得好幾年前就讀到一個重大研究，最終證偽了零假設(shè)。

醫(yī)學(xué)教育也必須適應(yīng)新的數(shù)字化未來。正如今天的醫(yī)學(xué)生必須學(xué)習(xí)藥效動力學(xué)機制、半衰期、生物效應(yīng)和化學(xué)串聯(lián)反應(yīng)，未來的學(xué)生將需要了解統(tǒng)計偏差、人工神經(jīng)網(wǎng)絡(luò)函數(shù)、數(shù)據(jù)結(jié)構(gòu)和解釋算法輸出。除了學(xué)習(xí)藥物類別及其副作用，醫(yī)生還需要了解不同類別的算法，其適應(yīng)癥和局限性，以及如何在上下文中解釋其輸出結(jié)果。和藥物安全性一樣，醫(yī)生需要關(guān)注算法的安全性。例如，一種藥物有已知的功效、預(yù)期的目標(biāo)人群、推薦劑量和監(jiān)測要求。開處方前，醫(yī)生需要了解藥物的大部分情況（如果他們不了解，他們不應(yīng)該把藥開進處方?。ｎ愃频?，算法有已知的精確度、預(yù)期的目標(biāo)人群、推薦用法，并且需要監(jiān)測。毫無疑問，在算法的局限性方面，醫(yī)生應(yīng)該接受和藥物的副作用一樣程度的教育。

基于這些原因，我預(yù)計醫(yī)學(xué)院訓(xùn)練將不得不適應(yīng)并開始教授基礎(chǔ)數(shù)據(jù)科學(xué)，并更加關(guān)注統(tǒng)計學(xué)的理解?，F(xiàn)在我們簡要地向?qū)W生介紹基本的卡方檢定和T檢驗，而下一代醫(yī)生必須能夠處理更復(fù)雜的統(tǒng)計方法，包括（但不限于）ROC曲線、AUC、概率建模、推斷和讓步率。只有到那時，我們才準(zhǔn)備好了引導(dǎo)醫(yī)學(xué)數(shù)字化演變的臨床主力軍。

所以，我預(yù)測，將產(chǎn)生一個向醫(yī)生提供數(shù)據(jù)科學(xué)教育的產(chǎn)業(yè)。這已經(jīng)開始發(fā)生了，在線課程和MOOC開放課程面向所有想成為數(shù)據(jù)科學(xué)家的人。我認為我們將開始看到專門針對臨床醫(yī)生的課程，重點關(guān)注醫(yī)療背景下的算法和解釋算法輸出所需的概率學(xué)知識。

當(dāng)然，臨床實踐中算法的最終用戶并不僅僅包括醫(yī)生。醫(yī)學(xué)走廊里充滿了不是醫(yī)師的專業(yè)人士，幾乎醫(yī)學(xué)的每個方面都有。我們有超聲波檢驗師、手術(shù)室護士、病房管理員、搬運工、藥劑師。因此，我預(yù)測會出現(xiàn)一個專注于算法的全新醫(yī)療專業(yè)，我們稱他們?yōu)椤八惴◣煛薄?/p>

作為臨床算法的專家，算法師將檢查醫(yī)院使用的算法是否正確，使用算法的場景是否正確，在選型流程中幫助選擇好的算法，提供哪些技術(shù)適用哪些場景的建議，監(jiān)督醫(yī)院內(nèi)的算法安全，同時負責(zé)“技術(shù)警戒”報告。我想，成為算法師所需要的技能組合將是非常利基的——既有基本的臨床基礎(chǔ)，也有數(shù)據(jù)科學(xué)的背景。

你可能想知道為什么需要單獨的專業(yè)。好問題！在我看來，即使我們有效地教育醫(yī)生，他們不具備成為真正的全職算法師的時間或?qū)ｉT技能。事實上，讓醫(yī)生遠離一線是臨床訓(xùn)練上的浪費。是的，一些臨床學(xué)者具備必要的技能并且可能領(lǐng)導(dǎo)算法師部門，但是在醫(yī)院的日常臨床活動中，對這些專家意見的需求會非常大，因而大部分工作都需要經(jīng)過專門訓(xùn)練的專職醫(yī)療人員來完成。相比花錢讓醫(yī)生遠離患者，專業(yè)工作人員的性價比也更高。

所以我們了解了什么？

藥物無法提供安全有效的醫(yī)療，是人和系統(tǒng)提供了這些。AI和算法同樣適用這一點。

通過觀察大制藥業(yè)，AI開發(fā)人員得以開始預(yù)測其行業(yè)內(nèi)外的發(fā)展趨勢。準(zhǔn)備好適應(yīng)和接受這些變化對于可持續(xù)增長至關(guān)重要。

從醫(yī)療事務(wù)和營銷指導(dǎo)，安全和技術(shù)警戒，到教育和訓(xùn)練專業(yè)人員，AI開發(fā)人員都可以參與整個支持產(chǎn)業(yè)的生態(tài)系統(tǒng)并從中受益。 如果他們參與這些，從大算法業(yè)中最終受益最多的是我們的患者。