11月22日，由“知識分子”和北京大學健康醫療大數據國家研究院共同舉辦的“智慧醫療革命： 潛力與挑戰” 論壇在北京大學醫學部舉行。
“當一個無人駕駛汽車剎車失靈，是往左轉撞死一個人，還是往右轉撞死五個人？這個時候是否人類文明的倫理適用于人工智能？”11月22日，北京大學健康醫療大數據研究中心副主任王海波用倫理學的經典電車難題，引出了智慧醫療的一個核心議題——
人工智能當前的一個非常大的特點是，它有不可解釋性，讓人不明覺厲，但在醫療領域則可能面臨巨大的倫理挑戰。當醫療AI對的時候，所有人皆大歡喜；當醫療AI犯了錯，盡管概率很小，但錯的時候，誰來負這個責任。是醫生嗎？是寫程序的程序員？還是簽字買這個醫療AI的院長？
在當天由“知識分子”和北京大學健康醫療大數據國家研究院聯合主辦的“智慧醫療：潛力與挑戰”論壇上，三位來自醫學、人工智能、倫理學領域的嘉賓，就人類智慧和人工智能在真實醫療情境下的發展，展開了精彩對話。
智慧醫療方興未艾
當前，在需求、政策、資本和技術的共同驅動下，中國的智慧醫療產業正進入高速發展期。這是一個人口規模巨大的健康醫療市場。
北京大學常務副校長、北大醫學部主任、中國工程院院士詹啟敏
民生的需求是排在第一位的。北京大學常務副校長、北大醫學部主任、中國工程院院士詹啟敏在此次論壇中表示，當前中國醫療健康面臨惡性腫瘤、心腦血管等重大疾病，醫療手段有限，臨床實踐大量依靠人力，以及醫療資源分布不均衡、發展不充分等多重挑戰，智慧醫療作為新的醫療模式，有望提供快捷、精準、有效，而且價格合適的醫療健康服務，從而解決老百姓的健康需求。
中國工程院院士、清華大學臨床醫學院院長董家鴻引用《柳葉刀》的數據指出，中國的醫療支出僅占GDP的6.5%，這僅相當于全球衛生資源投入的2%，不到美國和歐洲的1/3、1/2，卻負擔了全球20%人口的健康醫療，這是一個巨大的驚人的成就，但同時醫務工作者也作出了巨大的風險和犧牲。
“全國只有360萬醫生，但中國老齡人口已經達到2.48億，確診為慢病患者的人數超過3億，相對于整個社會的健康醫療服務需求，中國的醫療資源供應不足，基層和邊遠地區更是十分匱乏，而且資源配置嚴重不均衡、結構嚴重不合理的問題十分突出。”董家鴻表示，“智慧醫療有望成為解決醫療供需矛盾，提高成本效益的新的策略”。
巨大的需求，同時意味著巨大的市場。董家鴻表示，近年來國家連續出臺政策推動智慧醫療發展，同時中國的前沿科技發展，尤其是智能技術的發展和應用，意味著未來中國數字化醫療和智慧醫療產業發展面臨重大機遇。他披露的一項分析數據顯示，2030年，智慧醫療的技術應用可能高達2萬億~7萬億元市場規模。
在眾說紛紜的智慧醫療定義中，大數據、人工智能、物聯網、互聯網和云計算等核心技術的支撐，都是不可或缺的。董家鴻倡導將“智慧醫療”定義為現代科技賦能于傳統的健康醫療服務，形成最優化的大健康體系。
他在演講中特別列舉了國內目前在智慧醫療領域取得的關鍵技術突破。包括國產腦起搏器通過精準定位和電磁刺激來治療帕金森病、覆蓋13個部位的骨科手術機器人系統、智能化精準肝膽手術系統、前列腺癌全程智能化精準醫療，等等。而在人工智能方面，包括智能藥物研發、智能診斷、醫療機器人、智能影像識別和智能健康管理，將助力健康醫療產業的提質增效。
在全球范圍內，人工智能也早已應用于醫療領域。騰訊優圖實驗室醫療AI總監鄭冶楓在演講中介紹，1990年芝加哥大學醫學院首次證明計算機輔助診斷和醫生的結合，能提高醫生診斷的準確率。而2016年谷歌研發的眼底糖網分類技術和2017年斯坦福大學研發的皮膚癌診斷技術，證明了在特定任務下人工智能甚至超越醫生。
鄭冶楓所在團隊專注于深度學習在醫學影像領域的應用。2017年8月騰訊推出了輔助疾病早期篩查的AI醫學影像產品騰訊覓影，目前已經覆蓋了食管癌、肺癌等六個病種，還有更多病種在實驗室研發階段。鄭冶楓指出，中國醫療影像存在供給不平衡的現狀，隨著影像設備（CT、MRI）數量迅速上升，影像數據每年增長30%，但影像醫生每年的增長為4%，短期內難以大量增加。同時，基層醫生的誤診、漏診率高，以食管癌早篩為例，檢出率不足10%。他認為，通過計算機輔助診斷是解決供需不平衡的方向。
醫療AI的挑戰與風險
智慧醫療的標志性方向就是人工智能的應用。盡管人工智能在醫療中的應用已經取得一些進展，但在數據資源共享、技術發展、醫生訓練、倫理風險等方面，依然是一個充滿挑戰的新的領域。
醫療健康資源，包括大數據的共享問題首當其沖。詹啟敏認為，智慧醫療推進過程中的挑戰在于大數據的標準、儲存、安全和共享，涉及到個人隱私和知識產權。
“醫療資源共享遠遠不能實現，即使是一個大學的附屬各個醫院之間也不能共享，這個問題亟待解決”，董家鴻深有同感。他表示，醫療資源共享，一是可以避免醫療資源浪費，二是可以推動更好的醫療衛生決策，以及幫助包括人工智能在內的研究。德國有全國性醫療資源共享系統，美國實現了區域性的醫療資源共享，希望中國也能建成全民健康檔案，但是難度非常大。
“表面上看數據融合比較困難，它的本質是利益格局的融合。”王海波說道，“本身數據是資產，信息流動在不同醫院里有自己的利益格局，怎么處理？這不單單是技術的問題，而是社會治理的問題。”
而技術的發展在當前也面臨挑戰。鄭冶楓談到，人工智能應用于醫學影像本質上是圖像識別問題，但當前“缺乏大量標定好的數據樣本”。跟其他圖像不同的是，醫學影像數據面臨著三大困難：數據獲取對專業設備有要求，還會涉及患者隱私、罕見疾病及數據標注門檻高，需要專業醫生才能標注準確。
騰訊優圖實驗室醫療AI總監鄭冶楓
為解決數據共享和訓練樣本不足的問題，鄭冶楓介紹了“遷移學習”和建設開源平臺“Med3D”（注：“Med3D”即構建三維影像的ImageNet）兩種辦法。前者是在有大量數據集的源域上訓練模型，將模型遷移到小量數據集的目標域上，從而減少對訓練樣本的需求。后者則希望通過開源的辦法，建立共享數據平臺。
“現在人工智能的實現是在一個非常窄的領域，有海量的數據，有非常清晰的界定應用場景下，它才能做得跟人一樣，甚至比人好。”王海波說，但是為了解決共享數據不足的現實問題，出現的小樣本、遷移學習的模式也可能帶來如適應癥偏移等新的風險。
針對技術發展帶來的不確定性，董家鴻認為人機協同是未來的必然選擇。他闡釋道，醫學和工科的合作，就是從不確定性的事件中尋找確定性，AI能夠給醫生提供的最大幫助也在于此。某一類人群、某一類疾病里面有確定性的東西，但是病人和病人之間有很大的個體差異，這就是不確定性。這種不確定性總是存在的，最終還是要靠醫生的智慧。
真實的場景總是更為復雜。北京大學醫學人文學院醫學倫理與法律系主任叢亞麗指出，中國的問題是醫生水平參差不齊，人工智能最能幫助的是水平有待提高的醫生，尤其真正提高基層和邊遠地區醫生的水平。
北京大學醫學人文學院醫學倫理與法律系主任叢亞麗
“人工智能技術應用肯定要包含對于不同場景的描述，因為我們也擔心它被用錯了”，鄭冶楓表示，“AI作為新的工具，不可能不經培訓就拿來用。醫生的培訓非常重要。它的診斷準確率看起來比較高，但也會犯錯。所以醫生要花一定時間摸清楚它犯錯的規律，這樣才能真正有所幫助。另外流程上醫生應該先讀片子，再看AI的診斷，然后再去比較和綜合。”
北京大學醫學部副主任肖淵就此補充道，一個國家全民的健康應該有一個完整的醫療體系。其中要有分層、要有分類指導，要有不同發展階段的推動。從實踐來看，當前這個體系還不完善，怎么更好地發揮AI技術的作用，各個地區也在做不同的探索。比如社會經濟發展比較好的地區，像深圳就用醫聯體的方式，在互聯網上構架了一個比較均衡化的醫療服務水準和平臺。而寧夏采用的是另一種方式，他們是建立醫學中心，通過互聯網技術把心電圖、X光片中的影像學等比較好傳送的基礎診斷上傳到上一層的醫療中心。在社會經濟發展不平衡的狀態下，用技術分類指導推動醫療更好地服務于人、服務于整個民眾的健康是很有必要的。
醫生的AI，還是AI醫生？
在論壇圓桌討論環節，嘉賓們從各自經驗出發對“人工智能會超過人嗎？”“人工智能是否會傷害人類？”“人工智能發展的邊界在哪里？該如何制定規則”等問題進行深入探討。
在人工智能與人的比較上，叢亞麗表達了深切憂慮，“我覺得人類智慧在AI面前會失能，AI會大大勝出”，因為AI不會感到疼痛和失去。
“我覺得現在還處于非常初步的階段”，鄭冶楓認為，“人工智能替代人類，那是50年后、100年后的事情，現在要著眼于各個具體的問題，把算法的準確率提高，使其跟醫生協同合作，改善醫療環境。”
在董家鴻看來，在某些方面人工智能可以超過人，但在總體的智慧上，機器永遠不可能超過人類。
“技術是服務于人的，人工智能的發展是為了為人類提供更好的健康服務。”董家鴻說，“我們要認識到是醫生的AI，而不是AI醫生。”
從醫療服務診斷的感知、認知、決策、干預幾個主要流程上，他進一步分析道，人工智能可以在感知方面超越人的極限，在認知方面也可以在某種程度上超越人，為醫生提供輔助決策支持。包括對于腫瘤發生機理的研究，未來如果在算法上無法取得突破，則對于腫瘤本質的認識和防治策略不可能有突破。但是個體疾病復雜的變異性，常態的個體差異，一定還需要醫生的智慧。如果要求醫生遵從機器的決策，那會出很多問題。而從干預方面，機器可以提高手術操作的精度和可控性，但必須要由醫生做出判斷和控制機器人，否則要出問題。
董家鴻認為，當前醫療AI風險在于不可解釋性，那就是為什么人工智能能夠作出準確的判斷，如果沒有明晰的原理可解釋，在實際使用過程中醫生心里不踏實，患者接受起來也有疑慮。“如果一個醫生犯了錯，受損害的是一個病人。如果人工智能機器人出了錯，將會損害一批病人。”因此，董家鴻主張將機器人作為輔助，讓它處理確定性的事件，由醫生來處理不確定性事件，并承擔起法律上的責任。
對此，鄭冶楓則認為人工智能“不可解釋性的問題被夸大了”，“如果把AI想象成藥物（有效但機理暫未明確），就不會苛求它的解釋性了，有解釋性當然是錦上添花。”他主張，把AI限制在固定場景下應用，且確實證明有效即可。
“醫學里確實有很多東西背后的原理和機制還沒有搞清楚，也不能等待原理機制都搞清楚了再去應用”，董家鴻就此表示，對于不可解釋的藥物、人工智能技術，應該嚴格限定它的應用邊界。如果可解釋，人就可以有更大的發揮，懂得它的機制可以舉一反三。不可解釋的情況下，如果在某個領域被證明是有效的，則可以允許使用。
那么，當醫生的決策依賴于AI，這意味著什么？王海波提到自己參與的一項研究顯示，盡管AI只是提供輔助決策的功能，但實際操作中，也可能產生對醫生自主性的侵蝕。“在中國醫療資源供需失衡的情況下，當面對大量的病人和很高的工作強度，醫生很可能會過度依賴人工智能決策，這種自主性被侵蝕，對醫生意味著什么，對病人意味著什么，對整個醫療又意味著什么？”
董家鴻認為，問題需要從科學和倫理兩個層面考慮。首先，人體和疾病都是極其復雜的，因此在人類的健康醫療服務中是不可能不出錯誤的。從醫學的角度來看，它的發展本身就是一個不斷試錯和校正的過程，先進的科技手段確實能夠幫助醫生做出更正確的判斷，做更精準的干預，但仍然不可能完全避免出錯，最終主導的主體仍然是醫生。醫生也應該加強培訓和學習，更好地理解人工智能帶來的輔助決策的支持和它的局限性，從而讓人類站在更高的智慧水平上更好更準確地利用人工智能。
而從倫理的角度，參與對話的專家表示，智慧醫療的目的不是方法，不是人工智能，而是為了健康，根本還是為了人。因此，需要工程、醫學、倫理、法律共同探討，最終還是在人類的健康福祉準則下，共同制定倫理法規。
北京大學健康醫療大數據研究中心副主任王海波
王海波以回應開場的倫理學電車難題作為總結，“當時我的回答是人工智能怎么選擇都是錯的。這個時候，人工智能應該把決定權交給車上的人。同樣，智慧醫療也是，當機器作出判斷的時候，最終診斷的決策權、治療干預的決策權應該交給醫生。”
在此背景下，作為國內領先的科學新媒體，“知識分子”聯合北京大學健康醫療大數據國家研究院，共同舉辦 “智慧醫療革命：潛力與挑戰” 論壇，邀請業界領袖、技術精英、倫理專家研討當今中國智慧醫療改革的發展機遇，以及在人文、技術、法律、倫理等相關領域的挑戰應對，并進行圓桌對話。論壇由騰訊騰云智庫獨家支持。
