以下6點(diǎn)，是對(duì)AI醫(yī)生的基本訴求。

“大數(shù)據(jù)和人工智能極大提高了我們對(duì)新冠肺炎的診斷、預(yù)測(cè)和治療水平。”鐘南山此前如是說。

至于怎么提高的，他也舉了幾個(gè)案例，比如通過1000多個(gè)全國新冠肺炎患者的大數(shù)據(jù)了解到潛伏期、臨床癥狀，為新冠肺炎早期癥狀鑒別提供幫助；又比如根據(jù)大數(shù)據(jù)生成新冠肺炎疫情預(yù)測(cè)模型，為政策制定提供重要依據(jù)……

不得不承認(rèn)，大數(shù)據(jù)和AI對(duì)醫(yī)療產(chǎn)業(yè)的助力是有實(shí)際成效的，這也難怪谷歌、IBM、騰訊、百度和阿里等科技巨頭也創(chuàng)企蜂擁而上。但是，金無足赤、人無完人，AI落地醫(yī)療有時(shí)候也會(huì)犯錯(cuò)。

也因此，WHO找來了20位專家，并花費(fèi)2年時(shí)間為AI量身定制了一套“醫(yī)生準(zhǔn)則”。

WHO：AI落地健康領(lǐng)域，要遵循6大關(guān)鍵原則

WHO在報(bào)告中強(qiáng)調(diào)了AI在健康領(lǐng)域的前景，以及幫助醫(yī)生治療病人的潛力，并指出有幾十種潛在的方式可以將人工智能應(yīng)用于醫(yī)療保健。

但是，一旦AI沒有被仔細(xì)開發(fā)和實(shí)施，最好的結(jié)果是無法達(dá)到預(yù)期效果，最差的結(jié)果這就是造成傷害了。

因此，WHO出手為AI在健康領(lǐng)域的落地制定了指南，其中要點(diǎn)原則有6個(gè)：

1.保護(hù)自主權(quán)——人類應(yīng)該對(duì)所有健康決定進(jìn)行監(jiān)督并擁有最終決定權(quán)。這些決定不應(yīng)該完全由機(jī)器做出，醫(yī)生應(yīng)該能夠在任何時(shí)候推翻它們。未經(jīng)同意，人工智能不應(yīng)該被用來指導(dǎo)某人的醫(yī)療護(hù)理，而且他們的數(shù)據(jù)應(yīng)該受到保護(hù)；

2.促進(jìn)人類安全——開發(fā)人員應(yīng)持續(xù)監(jiān)測(cè)任何人工智能工具，以確保它們按規(guī)定工作，不會(huì)造成傷害；

3.確保透明度——開發(fā)者應(yīng)該公布有關(guān)人工智能工具設(shè)計(jì)的信息。對(duì)這些系統(tǒng)的一個(gè)經(jīng)常性批評(píng)是，它們是 "黑盒子"，研究人員和醫(yī)生很難知道它們是如何做出決定的。世衛(wèi)組織希望看到足夠的透明度，以便用戶和監(jiān)管機(jī)構(gòu)能夠充分審計(jì)和理解它們；

4.培養(yǎng)問責(zé)制——當(dāng)人工智能技術(shù)出現(xiàn)問題時(shí)，比如工具做出的決定導(dǎo)致病人受到傷害時(shí)，應(yīng)該有機(jī)制來確定誰應(yīng)該負(fù)責(zé)（比如制造商和臨床用戶）；

5.確保公平——要確保工具有多種語言版本，并在不同的數(shù)據(jù)集上進(jìn)行訓(xùn)練。在過去的幾年里，對(duì)普通健康算法的仔細(xì)審查發(fā)現(xiàn)，一些算法中存在種族偏見；

6.推廣可持續(xù)發(fā)展的人工智能——開發(fā)者應(yīng)該能夠定期更新他們的工具，如果一個(gè)工具看起來沒有效果，機(jī)構(gòu)應(yīng)該有辦法進(jìn)行調(diào)整。機(jī)構(gòu)或公司也應(yīng)該只引進(jìn)可以修復(fù)的工具，即使是在資源不足的衛(wèi)生系統(tǒng)。

黑盒子、開錯(cuò)藥、數(shù)據(jù)隱私……6點(diǎn)原則背后AI的另一面

在報(bào)告中，WHO明確表示，希望這6項(xiàng)原則能夠成為政府、開發(fā)商和監(jiān)管機(jī)構(gòu)處理AI的技術(shù)。但是當(dāng)我們反過來看，就會(huì)發(fā)現(xiàn)，不少情況早已經(jīng)出現(xiàn)。

比如自主權(quán)，該問題是科技公司利用AI賦能健康產(chǎn)業(yè)中最常發(fā)生的隱患。比如谷歌母公司Alphabet旗下的DeepMind就曾發(fā)生一件“丑聞”，并因此在英國被判違法：

2016年，英國醫(yī)療服務(wù)體系（NHS）在與DeepMind的一項(xiàng)醫(yī)學(xué)實(shí)驗(yàn)合作中，向后者提供了約160萬名患者的詳細(xì)資料，用于開發(fā)和完善一個(gè)急性腎損傷診斷和檢測(cè)系統(tǒng)。但是，他們的一切操作是在患者不知道的前提下進(jìn)行的，且也沒有告知患者醫(yī)療記錄數(shù)據(jù)的使用方式。

最終在2017年，英國最高隱私保護(hù)監(jiān)管部門裁定，DeepMind的該項(xiàng)醫(yī)學(xué)實(shí)驗(yàn)違反了英國的數(shù)據(jù)保護(hù)法。

需要注意的是，雖然丑聞被曝出，但是谷歌方面在之后的幾年內(nèi)并沒有停止這種侵犯用戶自主權(quán)的行為，包括在2017年，被指控通過芝加哥大學(xué)醫(yī)學(xué)中心不當(dāng)訪問數(shù)十萬份醫(yī)療記錄，以及在2018年被曝出的“夜鶯計(jì)劃”——醫(yī)生和患者毫不知情的情況下，在21個(gè)州秘密收集數(shù)百萬份包括醫(yī)生診斷、住院記錄、姓名和出生日期等數(shù)據(jù)的患者病歷及健康歷史，且有部分谷歌員工有權(quán)訪問這些敏感數(shù)據(jù)。

而除了自主權(quán)，站在患者的角度，他們還擔(dān)心安全問題，包括診斷和檢測(cè)過程的安全，以及用藥的安全。

其實(shí)，這并不是無來由的擔(dān)心，因?yàn)檫@一情況已經(jīng)在現(xiàn)實(shí)生活中發(fā)生了。就在2018年，此時(shí)，IBM還在如火如荼的基于AI系統(tǒng)Watson發(fā)展自己的醫(yī)療業(yè)務(wù)，但是Watson卻被曝出為一位有嚴(yán)重出血可能的肺癌患者，開出了容易導(dǎo)致大出血的藥物。

當(dāng)然，開錯(cuò)藥的情況也有在人類醫(yī)生身上發(fā)生過，但正如第三點(diǎn)原則中提到的“黑盒子”，AI醫(yī)生開藥的邏輯是基于過往海量病歷數(shù)據(jù)訓(xùn)練出來的，但是具體過程并不會(huì)展現(xiàn)給人類醫(yī)生，而對(duì)于患者而言，這顯然會(huì)帶來一種“不安全感”。

此外，雖然AI醫(yī)療賽道中鮮少被報(bào)道，但在其他像智能語音助手等賽道中，如同WHO所擔(dān)心的那樣，諸如種族歧視、性別歧視等不可控因素已經(jīng)出現(xiàn)。

不可否認(rèn)，AI的作用是潛力無限的，包括用AI來篩選檢測(cè)病灶、幫助患者監(jiān)測(cè)自己身體的各項(xiàng)數(shù)據(jù)、追蹤新冠等疫情的爆發(fā)等等。但當(dāng)我們從理論回到現(xiàn)實(shí)，即便沒有WHO的6項(xiàng)原則，即便是頭部的公司，在利用AI賦能健康產(chǎn)業(yè)這條道路上，也是走得磕磕絆絆。

在AI醫(yī)療方向，科技公司們正節(jié)節(jié)敗退

追溯科技公司在AI醫(yī)療賽道上的敗退，最先為人熟知的是曾經(jīng)的領(lǐng)頭羊IBM。

IBM旗下的Watson Health部門，主要利用AI幫助醫(yī)院、保險(xiǎn)公司和制藥商管理數(shù)據(jù)、輔助診斷。

但在這之后，6年時(shí)間年收入10億、8年內(nèi)25個(gè)代表合作項(xiàng)目僅有5個(gè)推出產(chǎn)品等事實(shí)狠狠“扇醒”了IBM，再加上前面提到的開錯(cuò)藥等“丑聞”，Watson Health在之后幾年內(nèi)的存在感逐漸減弱，最終在今年2月份，IBM宣布將對(duì)外出售該部門。一代創(chuàng)新項(xiàng)目“黯然落幕”。

而說到與IBM在AI醫(yī)療賽道稱得上并肩前行的公司和項(xiàng)目，還有谷歌和它的Google Health。與Watson Health一樣，Google Health也是背靠科技巨頭，自誕生起就有著無數(shù)資源，但也擋不住它與Watson Health類似的命運(yùn)。

3年前，谷歌成立Google Health，合并了DeepMind旗下的健康部門DeepMind Health和負(fù)責(zé)推進(jìn)“Streams”醫(yī)療APP的團(tuán)隊(duì)，同時(shí)還從蓋辛格醫(yī)療中心挖來了David Feinberg就任主管，后者是全美最好的成人?？漆t(yī)院之一。

一切都是那么的美好，但現(xiàn)實(shí)情況卻是，3年過去了，這一業(yè)務(wù)依舊處于虧損狀態(tài)，而主力推廣的糖尿病視網(wǎng)膜病變篩查業(yè)務(wù)，也因?yàn)闄z測(cè)照片不達(dá)算法檢測(cè)要求而導(dǎo)致準(zhǔn)確率不如預(yù)期，且極度依賴網(wǎng)絡(luò)速率的特性也讓這一產(chǎn)品落地后在效率上大打折扣。

現(xiàn)如今，Google Health在6月份被曝出將進(jìn)行大規(guī)模裁員重組，并且做好了重組后依舊不賺錢的準(zhǔn)備。

可以看到，不管是IBM，還是谷歌，他們?cè)诮】禈I(yè)務(wù)上的癥結(jié)主要在于兩點(diǎn)，分別是AI系統(tǒng)落地后效果不如預(yù)期，以及不賺錢。

事實(shí)上，這兩點(diǎn)對(duì)國內(nèi)AI醫(yī)療公司的阻礙也同樣適用。比如盈利問題，如今已有多家公司因?yàn)橛y等問題正面臨資金斷鏈、業(yè)務(wù)收縮或重組等現(xiàn)實(shí)問題。

而更為值得令人深思的是，AI醫(yī)療的可行與可信。

針對(duì)這一點(diǎn)，AI大牛吳恩達(dá)曾在去年這樣說，醫(yī)療領(lǐng)域AI研究的算法難以投入到生產(chǎn)，因?yàn)橐圆糠謹(jǐn)?shù)據(jù)訓(xùn)練出的模型，難以泛化到其他情況。

這句話揭露的是當(dāng)前AI醫(yī)療算法模型過程中數(shù)據(jù)規(guī)模、規(guī)范性等方面的問題。

比如谷歌，雖然其健康部門還沒有落到與IBM Watson一樣的境遇，且也已經(jīng)做好了不賺錢的準(zhǔn)備。但是，成熟技術(shù)與盈利之間終究存在著千絲萬縷的牽連。盈利問題到最后終究會(huì)被再次提出，而這需要以技術(shù)成熟并落地為前提。

最后，記得關(guān)注微信公眾號(hào)：鎂客網(wǎng)（im2maker），更多干貨在等你！