AI有可能開出危險和錯誤的治療方案

7月25日，美國健康醫(yī)療媒體STAT曝出IBM公司的內(nèi)部文件顯示，用于輔助醫(yī)生設(shè)計癌癥治療方案的AI產(chǎn)品沃森問題不小，除了來自用戶的抱怨，還會開出危險和錯誤的癌癥治療方案。

IBM的報告里，沃森的問題：

1、沃森的訓(xùn)練數(shù)據(jù)不是真實的數(shù)據(jù)，是假想數(shù)據(jù)；

2、訓(xùn)練數(shù)據(jù)不夠；

3、訓(xùn)練沃森時，不是醫(yī)療指南或真實數(shù)據(jù)；

4、在訓(xùn)練時，沃森開除了不合適且危險的治療方案；

5、評估沃森系統(tǒng)和癌癥專輯的方案可能有偏向性。

其實，沒有這個報告，這些問題IBM在推廣沃森時，好像已經(jīng)提到過，因為美國隱私保護(hù)的法律非常嚴(yán)格，個人的病例是受法律保護(hù)的，沃森在美國的訓(xùn)練數(shù)據(jù)，應(yīng)該是假想數(shù)據(jù)。而IBM在美國之外推動人工智能的診斷，有沒有獲取診療數(shù)據(jù)的目的？

機(jī)器換人是需要經(jīng)歷逐步完善的過程

記得以前在做供應(yīng)鏈計劃軟件公司工作的時候，提供的是APS功能，用APS來解放計劃員的計劃、排程工作，解決方案是使用APS提供一個可實現(xiàn)的計劃、排程建議給計劃員，由計劃員修正、形成最終的計劃排程。

而IBM的腫瘤醫(yī)生沃森，做的工作，就與APS對計劃員的工作是一樣的，經(jīng)過訓(xùn)練的沃森，給出的是診療意見，最后這個診療意見是給醫(yī)生一個參考，醫(yī)生在這個過程中，沃森是一個輔助工具。

作為輔助工具，其實其發(fā)展也要經(jīng)歷兩個過程：

第一個階段：診斷不完善，診斷只是參考；

第二個階段：將診斷結(jié)果限定在一定范圍，保證不出錯的建議。

其實很多人工智能的應(yīng)用還處于第一個階段，在這個階段，診斷只是參考，不能影響人的診斷。在這個階段，使用AI工具的還是需要有豐富的經(jīng)驗，需要具有獨立診斷的能力。在這個階段積累豐富的案例之后，降低AI誤診的比例。

而到了第二階段，人工智能具備了專家經(jīng)驗，誤診比例非常低之后，可以讓更多部具有專家經(jīng)驗的人使用工具。其實現(xiàn)在處于發(fā)展的第一階段。出現(xiàn)各種問題是可以理解的。

機(jī)器只是工具

對于人工智能應(yīng)用于治療，其最終目標(biāo)也是讓機(jī)器解決確定性的，人來解決不確定性的。按照APS的設(shè)計原理，機(jī)器解決的是可以規(guī)則化的問題，而人解決的是不可以規(guī)則化的問題。而人工智能應(yīng)用于治療，人工智能解決的也是可以用知識表述并解決的問題；人來解決新的未知的知識。

人工智能還只是工具，用于輔助人的工作，是解放可以重復(fù)性的工作，而完全創(chuàng)新的的工作，仍然需要提示給人，來請更多的專家來完善功能。

工具的完善需要時間

IBM的沃森只是工具，但把它當(dāng)作醫(yī)生來用，就會出現(xiàn)問題。而工具的完善也是需要時間的。比如現(xiàn)在自動駕駛技術(shù)，雖然已經(jīng)有很多應(yīng)用，但也出現(xiàn)了很多事故。但工具的完善，都是在不斷發(fā)生問題，解決問題的過程中完善的。這個過程是不可避免的。

不能因為中間出現(xiàn)問題，就全盤否定。AI的大趨勢比可避免，不能因噎廢食。