發(fā)布日期：2018-04-16

　　自從谷歌推出的人工智能（AI）“alphago”連續(xù)戰(zhàn)勝世界最頂尖圍棋高手柯潔、李世石等之后，具有深度學習功能的AI如同核當量級爆炸一般在產(chǎn)業(yè)界、資本界引發(fā)巨瀾。最近半年以來，“人工智能+某某”頻出媒體：人工智能+醫(yī)療，人工智能+法律，人工智能+會計，人工智能+教育等，以上尤以人工智能+醫(yī)療最為引人注目，谷歌在停止開發(fā)人工智能圍棋項目之后，率先進入的領(lǐng)域也是醫(yī)療領(lǐng)域。

　　醫(yī)療領(lǐng)域最易開展人工智能應用的是圖像分析。圖像分析在醫(yī)療診斷中有特殊地位，許多疾病的診斷依靠圖像，如皮膚病圖譜、眼底病圖譜、病理顯微圖片、X線、CT、MRI、B超成像、心電圖，等等?，F(xiàn)有圖像數(shù)據(jù)分析的分辨力可以達到0.01mm，與醫(yī)療圖像的肉眼分辨水準相當，如果結(jié)合人工智能的深度學習功能，以機器代替人類進行圖像的醫(yī)學診斷不是沒有可能。

　　據(jù)最近的幾篇文章披露，人工智能在特定疾病的圖像診斷如肺結(jié)節(jié)的CT診斷、甲狀腺癌乳腺癌的病理診斷、單導聯(lián)的心律失常心電圖診斷等方面，已經(jīng)達到或接近一名普通主治醫(yī)生的診斷水平。需要注意的是，具有深度學習功能的人工智能的基本特征是自我學習，也就是只要通過人工標注教會了電腦識別特征性標志的能力，當基礎數(shù)據(jù)達到一定程度比如100萬張圖譜時，電腦可以脫離人類而不斷自我學習、自我否定，無限接近正確水平。所謂自我學習，亦即電腦可以自我創(chuàng)造海量的新的疾病圖譜，這種創(chuàng)造可能達到每天數(shù)百萬張圖譜，比如可以創(chuàng)造出疾病圖譜庫里不曾有過的肺結(jié)節(jié)CT圖像，然后對照既往的圖像數(shù)據(jù)而進行自我診斷、自我修正，這種自我創(chuàng)造、自我修正能力當然有利于疾病的診斷。

　　不排除，AI在自我學習中創(chuàng)造出來的某一張肺結(jié)節(jié)CT圖像恰好符合未來某一個病人的肺CT特征，并提前作出診斷，也就是未卜先知。未卜先知，我不知道人類能否做到，但至少在某些領(lǐng)域，電腦可以做到。這其中的哲學玄機，偏離了本文主題，我無意再深究下去。

　　獲得學習能力的AI，其診斷水平可以在短時間內(nèi)光速提高，現(xiàn)有臨床規(guī)培、專培的培養(yǎng)速度與之完全不能比擬。AI系根據(jù)概率而作出診斷，比如某個肺結(jié)節(jié)CT圖像符合中央型肺癌的概率達到90%即診斷為肺癌，某個心電圖圖譜符合預激綜合征的概率達到99%而診斷為預激綜合征，或者某個圖譜不具有任何現(xiàn)有疾病特征而從概率上排除疾病而診斷為無明顯異常或符合正常。這種依據(jù)概率作出的診斷符合一般臨床醫(yī)學規(guī)律，臨床影像醫(yī)生的診斷往往也描述為“印象是.....”，“考慮為......”，“符合.....”，“......病的可能性大”，這其實亦是一種概率，只不過是人為估算心證的概率，因此AI的診斷達到一定標準時，完全可以、也應當替代醫(yī)生的診斷，否則開發(fā)人工智能診斷失去價值。

　　既然AI診斷是一種醫(yī)學診斷，可直接代替醫(yī)生應用于臨床，則直接影響病人的生命健康，因此法律規(guī)制殊顯重要。作為一名醫(yī)療訴訟專業(yè)律師，我認為考察AI診斷的法律原則時，至少應包括以下四個問題：

　　一、做出AI診斷的主體在法律上是人（醫(yī)生）還是物（醫(yī)療器械）？

　　二、AI診斷進入臨床應用的法律標準是什么？

　　三、AI診斷出現(xiàn)缺陷或醫(yī)療過失的判斷依據(jù)是什么？

　　四、AI診斷發(fā)生醫(yī)療損害，誰應承擔法律責任？

　　其中第一個問題最基本也最重要，因為在法律上明確了AI診斷的主體身份時，其他的如AI診斷的準入條件、缺陷或過失標準、法律責任等等均迎刃而解；又因為AI診斷只是AI在醫(yī)學上的應用之一，弄清了AI診斷的法律原則，其他醫(yī)學應用也觸類旁通，綱舉而目張。

　　一、AI診斷的法律主體是人（醫(yī)生）還是物（醫(yī)療器械）？

　　--既是人也是物

　　AI是人還是物？這是一個非常深奧的哲學問題，恐怕窮盡人類現(xiàn)有智慧也難以回答這個問題。如說是物，可是AI又具有其他物包括高等動物所不具備的智能功能；如說是人，可是AI不過是一堆人類制造的電子或者量子元器件，即使將來出現(xiàn)以DNA等生物分子作元器件的AI，亦不過是一堆人為的物質(zhì)聚合體，目前沒有任何證據(jù)證明除人類之外，其他人為的無機、有機復雜聚合體達到一定的復雜性時能夠產(chǎn)生智慧。

　　為什么對AI的定義如此困難？依我看根本原因在人類自己，人類不知何時，將世界二分成人與物或者身與心，此二分法將人、物對立，身、心對立，在法律上更是有人格權(quán)法、物權(quán)法，以及人、物相混的合同法。倘若人類智慧更進一步，認識到人、物不能分，身、心不能分，人即是物，物即是人，身即是心，心即是身，則對AI的認識不至如此困惑：AI既是人，也是物；或者一定條件下是人，一定條件是物。我相信，隨著人工智能的迅猛發(fā)展，必將改變?nèi)祟悓θ俗陨淼母菊J識，包括對肉體、對意識的根本認識，很多我們習以為常的觀念將出現(xiàn)顛覆性改變。

　　所以，我的建議，現(xiàn)有法律可以視AI既是人，又是物；或者在一定條件下視AI為人，一定條件下視AI為物。何為一定條件，端看AI的具體應用場景。其實在生物醫(yī)學領(lǐng)域，法律上視某種實體既是人，又是物的情況并不鮮見，比如體外受精卵、離體的待移植的有功能的器官等，將之簡單定性為物不妥，將之簡單定性為人也不妥，只能在一定法律條件下定性為物，在另一法律條件下又定性為人，方能在法律上圓潤妥帖。下面再回到本文主題--人工智能診斷。

　　首先，人工智能診斷不同于X光機、CT儀、心電圖機等醫(yī)療儀器所打印出來的一張張膠片或圖紙（這些膠片、圖紙離了醫(yī)生的分析與診斷，并無任何醫(yī)療上的價值），而是實實在在的具有醫(yī)療價值的診斷結(jié)論，這些診斷結(jié)論是經(jīng)由AI分析醫(yī)療大數(shù)據(jù)，經(jīng)由歸納、演繹等邏輯推理（深度學習算法）而得出的，實際相當于一名有經(jīng)驗的醫(yī)生運用醫(yī)學知識、邏輯分析而得出的結(jié)論。AI的診斷實質(zhì)等同于醫(yī)生的診斷，可直接用于判斷疾病性質(zhì)而指導治療；同樣，AI的誤診相當于醫(yī)生的誤診，比如AI將某一個肺CT結(jié)節(jié)診斷為肺癌，然后醫(yī)生按肺癌進行了手術(shù)，可是術(shù)后病理顯示（注意，這個術(shù)后病理亦可用AI診斷）患者所患并非肺癌而是良性結(jié)節(jié)，顯然AI發(fā)生了誤診，此等誤診并非機器讀寫錯誤或機械誤差，而是對疾病性質(zhì)的智能判斷出現(xiàn)了錯誤，這個錯誤相當于診斷醫(yī)生的錯誤。

　　因此人工智能診斷的主體在法律上首先應視為一個人或一個醫(yī)生作出的診斷，應以類似醫(yī)生的資質(zhì)要求而要求其準入條件，當其作出誤診時應以診療常規(guī)、規(guī)范而判斷其是否存在醫(yī)療過失。當然鑒于人工智能診斷的設計有其特殊性，其具體的準入條件、過失判斷標準亦有其特殊性，下文再述。

　　其次，人工智能診斷畢竟是由機器作出的診斷，這個機器所使用的診斷系統(tǒng)、算法是由人設計的，受人所控制，盡管其在一定條件下能夠脫離人的控制而自我學習、自我提高，但這個能夠自我學習、自我提高的基礎能力仍是由人所賦予的，因此人工智能診斷的主體在法律上亦應視為物即醫(yī)療儀器作出的診斷，有關(guān)醫(yī)療儀器的法律適用于人工智能，比如《醫(yī)療器械管理條例》所規(guī)定的臨床試驗、注冊制度，比如《產(chǎn)品質(zhì)量法》關(guān)于產(chǎn)品安全的規(guī)定、產(chǎn)品缺陷的定義、產(chǎn)品責任的規(guī)定等等都應適用于人工智能診斷設備。

　　二、AI診斷進入臨床應用的法律標準是什么？

　　--最佳醫(yī)療水平標準

　　如前文分析，AI診斷的法律主體既是人（醫(yī)生），也是物（醫(yī)療器械)，因此其進入臨床應用的法律標準應當分別適用人即醫(yī)生的標準和物即醫(yī)療器械的標準。

　　醫(yī)療衛(wèi)生法關(guān)于醫(yī)生的準入資格包括醫(yī)生的一般準入資格和特定學科的準入資格得適用于AI。一般準入資格是指凡以醫(yī)生身份執(zhí)業(yè)者，均應經(jīng)國家統(tǒng)一考核取得醫(yī)師資格證，并應經(jīng)臨床實踐而注冊取得醫(yī)師執(zhí)業(yè)證，根據(jù)2017年4月1日最新之《醫(yī)師注冊管理辦法》的規(guī)定，我國醫(yī)師執(zhí)業(yè)證采取省級行政區(qū)劃制度，凡經(jīng)注冊取得執(zhí)業(yè)資格的醫(yī)師，在注冊所在省級行政區(qū)劃范圍內(nèi)準予執(zhí)業(yè)，欲跨省執(zhí)業(yè)者，需再申請外省注冊；特定學科的準入資格是指對于醫(yī)療技術(shù)要求高的少數(shù)學科如器官移植、心臟介入、神經(jīng)外科等，應當通過該等學科的特別考核方能取得執(zhí)業(yè)資格。

　　當AI診斷視為醫(yī)生作出的診斷而擬進入臨床應用時，其診斷水平應當達到醫(yī)生的一般準入資格和特定學科的準入資格所要求的水平是沒有任何疑義的。但這遠遠不夠，因為AI診斷有以下三個顯著特點，是作為自然人的醫(yī)生所不具備的：

　　1、AI診斷是在采集現(xiàn)有醫(yī)療大數(shù)據(jù)，并結(jié)合深度學習的算法而獲得的智能診斷。理論上，AI采集的醫(yī)療大數(shù)據(jù)越多，算法越接近最高水平的醫(yī)生，則其診斷正確的概率越高，理論上AI診斷正確的概率可以超過其所獲得的醫(yī)療大數(shù)據(jù)的診斷正確率。而獲得更多的醫(yī)療大數(shù)據(jù)，最大可能地吸收最高水平醫(yī)生的診斷技術(shù)，以達到或超越當時的最高診斷水平，是任何一個AI的市場競爭要求，也是商業(yè)倫理的內(nèi)在要求。

　　2、AI診斷的算法決定了其具有自我學習、自我提高的基本能力，這種能力使得AI可以迅速提高診斷水平，結(jié)合第1點，AI達到或超越當時或當?shù)刈罡哚t(yī)療水平不是難事。

　　3、最重要的一點，AI診斷系自動化的智能診斷，其診斷效率可能是人工的數(shù)百萬倍乃至無限倍，比如自然人醫(yī)生一天只能閱片數(shù)十張，而AI可能達到數(shù)百萬張，效率無限增加時，誤診的絕對數(shù)也無限放大。假如AI存在BUG，這個BUG可能造成誤診，則由于AI診斷的放大效應，誤診在人群中的后果是災難性的。

　　綜合以上3點，我認為，對AI診斷的技術(shù)準入要求應當采最高醫(yī)療水平標準。鑒于AI的診斷水平是以自然人醫(yī)生的診斷水平作為對比的，AI診斷的醫(yī)療水平術(shù)不應低于當時醫(yī)生的最高醫(yī)療水平。中國《侵權(quán)責任法》“醫(yī)療損害賠償”章第57條規(guī)定醫(yī)務人員的注意義務以“當時的醫(yī)療水平”為限：“醫(yī)務人員在診療活動中未盡到與當時的醫(yī)療水平相應的診療義務，造成患者損害的，醫(yī)療機構(gòu)應當承擔賠償責任。”這里所謂“當時的醫(yī)療水平”是指與醫(yī)生的職稱相應的平均醫(yī)療水平，AI顯然改變了這一標準。

　　何為當時的最高醫(yī)療水平？法律或技術(shù)上如何界定？兩種方法：

　　1、具體標準或概率標準。鑒于醫(yī)生的醫(yī)療水平取決于各種主客觀條件，現(xiàn)實中難以找到一個從不出錯、代表最高水平的醫(yī)生，即使是水平最高的醫(yī)生，也只能說他的診斷正確率最高，因此判斷AI是否達到當時的最高醫(yī)療水平時，亦應以概率作為判斷標準，比如法律可以規(guī)定，當AI的診斷正確率超過99%或更高的醫(yī)生時，可以認為AI達到了當時的最高醫(yī)療水平，可以獲準上市。鑒于我國的醫(yī)師采取省級行政區(qū)劃注冊制，可以規(guī)定，向省級醫(yī)藥行政部門申請上市的AI，其AI的診斷水平應當超過該省99%或更高的相應學科的醫(yī)生水平；向國家醫(yī)藥監(jiān)督部門申請上市的AI，其診斷水平應當超過全國99%或更高的相應學科的醫(yī)生水平。alphago的勝率甚至達到了對全部世界冠軍的100%。

　　2、抽象標準或者異議標準。鑒于AI是以現(xiàn)有醫(yī)生的診療技術(shù)作為其算法基礎的，而現(xiàn)有醫(yī)生的診療技術(shù)處于變動不居中，隨時可能獲得突破性進步；又，AI上市時，即使達到99%的正確率，亦難以排除其難以預測的缺陷，故應當建立AI上市后的異議制度，即AI上市后，任何一名醫(yī)生或醫(yī)療機構(gòu)，如果認為其診療水平超過AI，可以向國家醫(yī)藥監(jiān)督部門提出書面異議，如果其提出的數(shù)據(jù)能夠初步證明其觀點，國家應當啟動異議程序，異議成立時，國家應當暫停該AI上市或退市，并應當考慮提高AI準入的概率標準，比如提高到99.9%。這一制度類似于商標或?qū)＠鲜泻蟮臒o效宣告制度。

　　當AI診斷的法律主體視為醫(yī)療器械時，其應當遵守國家關(guān)于醫(yī)療器械的準入制度，包括臨床試驗、器械注冊、上市許可等。惟這里的臨床試驗是以病人為對象的，當對病人的臨床試驗達到相當程度的診斷正確率時，其仍不一定符合上市標準，因為如前文所述，AI診斷首先應視為一名醫(yī)生的診斷，其應與同類醫(yī)師對比，在法律上達到當時的最高醫(yī)療水平。

　　三、AI診斷出現(xiàn)缺陷或醫(yī)療過失的判斷依據(jù)是什么？

　　將AI視為一個人時，其出現(xiàn)的診斷錯誤可以稱之為醫(yī)療過失，因為只有人才會產(chǎn)生過失；將AI視為一個儀器時，其出現(xiàn)的診斷錯誤可以稱之為缺陷或產(chǎn)品缺陷，因為儀器或產(chǎn)品不具有意識不能產(chǎn)生過失，只能稱為缺陷。那么法律上如何判斷AI出現(xiàn)的過失或缺陷呢？

　　就醫(yī)療過失而言，現(xiàn)行《侵權(quán)責任法》規(guī)定了兩種判斷標準，一是具體標準，即第58條第一款所規(guī)定的，違反法律、行政法規(guī)、規(guī)章以及其他診療規(guī)范的，推定醫(yī)生存在過失；二是抽象標準，即第57條所規(guī)定的，當醫(yī)生未盡到與當時的醫(yī)療水平相應的診療義務時，應當認定醫(yī)生存在過失。對AI出現(xiàn)的診斷錯誤能夠適用這兩個法律判斷標準么？

　　我認為，不能。其一，AI是以醫(yī)療大數(shù)據(jù)為基礎，運用計算機的深度學算法而作出診斷的，不是如醫(yī)生一般系通過運用診療常規(guī)、規(guī)范而得出診斷結(jié)論的，因此即使其出現(xiàn)診斷錯誤，也不可能通過考察其是否違反診療常規(guī)、規(guī)范而得出過失與否的結(jié)論；其二，AI的準入資格決定了其是以概率計算的、以當時的最高醫(yī)療水平為標準的，故不能以“與當時的醫(yī)療水平相應的診療義務”作為判斷依據(jù)。

　　當AI因未能達到當時的最高醫(yī)療水平而出現(xiàn)診斷錯誤時，這既是AI的一種醫(yī)療過失，更是AI產(chǎn)品的設計或算法缺陷，此時基于人的過失和基于產(chǎn)品的缺陷合二為一了，在法律上可以適用同一標準而判斷之，最好的標準便是產(chǎn)品缺陷標準。

　　但是必須注意到，臨床上的誤診是非常常見的，并非所有的誤診都需要承擔法律責任，甚至可以說絕大多數(shù)誤診都無需承擔責任，只有違反診療常規(guī)、規(guī)范或者未盡到與當時的醫(yī)療水平相應的診療義務的誤診才構(gòu)成過失，才有可能承擔法律責任。AI診斷亦是一樣，如果AI達到準入條件，其診斷水平超過99%醫(yī)生的醫(yī)療水平，其仍然發(fā)生了誤診并導致患者損害，此種損害是法律允許的，不產(chǎn)生過失或缺陷、不產(chǎn)生法律責任，除非能夠證明該種誤診是因為AI的設計或算法出現(xiàn)缺陷而產(chǎn)生，此時適用產(chǎn)品缺陷的判斷標準。

　　產(chǎn)品缺陷的判斷標準適用《產(chǎn)品質(zhì)量法》，第46條規(guī)定：本法所稱缺陷，是指產(chǎn)品存在危及人身、他人財產(chǎn)安全的不合理危險；產(chǎn)品有保障人體健康和人身、財產(chǎn)安全的國家標準、行業(yè)標準的，是指不符合該標準。

　　該法第41條還規(guī)定：生產(chǎn)者能夠證明存在以下情形的，不承擔賠償責任：（一)未將產(chǎn)品投入流通的；（二）投入流通時，引起損害的缺陷尚不存在的；（三）將產(chǎn)品投入流通時的科學技術(shù)水平尚不能發(fā)現(xiàn)缺陷的存在的。

　　四、AI診斷發(fā)生醫(yī)療損害，誰應承擔法律責任？

　　當國家準予AI診斷應用于臨床時，則醫(yī)生對AI的診斷產(chǎn)生信賴利益，如因AI的診斷錯誤導致后續(xù)的治療錯誤而產(chǎn)生醫(yī)療損害時，不應由醫(yī)生或醫(yī)療機構(gòu)承擔法律責任，而應由AI的產(chǎn)品責任人承擔法律責任。當然受害人可以依據(jù)《侵權(quán)責任法》或《產(chǎn)品質(zhì)量法》的規(guī)定而起訴AI的使用者--醫(yī)療機構(gòu)或醫(yī)生，但承擔責任的醫(yī)療機構(gòu)或醫(yī)生有權(quán)向AI的產(chǎn)品責任人追償。

　　AI的產(chǎn)品責任人一般就是AI的生產(chǎn)者或設計人，具體可依據(jù)對AI產(chǎn)品缺陷的分析而確定，誰對產(chǎn)品缺陷負責，誰就是最終的法律責任人。

來源：健康界