安全、可靠、可信的第三代人工智能將快速推動技術(shù)應(yīng)用落地。

“我們給公司取名‘RealAI’，意在探索真正的人工智能。其實現(xiàn)在的AI技術(shù)距離真正的人工智能還有很長的路要走。”

那什么才是真正的AI呢？在RealAI看來，“真正的AI應(yīng)該是有理解能力、具備‘人類智能水平’的AI。”

后深度學(xué)習(xí)時代的人工智能

2016年，清華大學(xué)人工智能研究院院長張鈸院士首次提出了“后深度學(xué)習(xí)時代的人工智能”的概念，并就AI技術(shù)發(fā)展做了階段性分類。簡單來說，AI技術(shù)發(fā)展主要分為三個階段：

第一代，“知識驅(qū)動型”AI，以規(guī)則模型/符號模型為主的符號主義AI，可以從宏觀層面模擬人類行為，但對于無法精確描述的知識束手無策；

第二代，“數(shù)據(jù)驅(qū)動型”AI，以深度學(xué)習(xí)為代表，對領(lǐng)域知識要求不高，可以通過深度神經(jīng)網(wǎng)絡(luò)建立計算模型，從數(shù)據(jù)中發(fā)現(xiàn)規(guī)律，但高度依賴大量高質(zhì)量的訓(xùn)練數(shù)據(jù)；

第三代，“知識驅(qū)動+數(shù)據(jù)驅(qū)動型”AI，即安全、可靠、可信的AI，白盒化AI模型提供可理解的決策依據(jù)，即便在樣本不足、噪音高、標(biāo)注差等未知場景中也能夠可靠提升預(yù)測效果以及持續(xù)保持較高的判斷力。

目前以深度神經(jīng)網(wǎng)絡(luò)為代表的AI技術(shù)尚處于第二階段，魯棒性較差、易受干擾，并且決策過程為“黑盒”，可解釋性差，這也直接導(dǎo)致了關(guān)鍵AI技術(shù)在落地應(yīng)用時達(dá)不到預(yù)期。基于此，清華大學(xué)率先倡導(dǎo)發(fā)展第三代人工智能，而RealAI作為清華大學(xué)人工智能研究院的核心孵化企業(yè)，其主要目標(biāo)是從底層技術(shù)框架出發(fā)，專注第三代人工智能基礎(chǔ)技術(shù)研究，并探索其產(chǎn)業(yè)落地方向，致力于讓前沿AI技術(shù)在生產(chǎn)、生活中得到真正的應(yīng)用。

值得一提的是，去年9月，美國國防高級研究計劃局DARPA也相繼發(fā)布了“AI NEXT”計劃，該計劃將斥資20億美元，圍繞“新能力、可靠性、對抗性、高性能和可解釋性”五大方向，旨在推動人工智能第三次浪潮?？梢哉f，當(dāng)前中美兩國針對第三代人工智能的競爭已經(jīng)展開，清華大學(xué)、RealAI等中國研究機(jī)構(gòu)和企業(yè)則是搶占了先機(jī)。

引入貝葉斯深度學(xué)習(xí)，用概率統(tǒng)計方法模擬人類決策

實際上，人工智能很多時候需要做“預(yù)測問題”，要讓AI具備人腦的判斷、決策能力，就需要讓AI學(xué)習(xí)人類在做預(yù)測時的決策過程——即“先假設(shè)，再找論據(jù)進(jìn)行修正”的方法，先對現(xiàn)象做預(yù)判，再基于知識或數(shù)據(jù)給予這個預(yù)判以修正。例如，人類在判斷明天是否下雨的時候，會先做假定，再去觀察云層、風(fēng)力、氣溫等，并基于看到的現(xiàn)象去驗證“下雨”的可能性，即由果尋因。

那么，如何讓AI也具備這樣的能力？RealAI給出的答案是，貝葉斯深度學(xué)習(xí)。從技術(shù)本身來看，貝葉斯深度學(xué)習(xí)以貝葉斯理論為核心，即利用概率表示所有形式的不確定性，通過概率規(guī)則來實現(xiàn)學(xué)習(xí)和推理過程，是一種從概率統(tǒng)計的角度定義問題的方式。簡單來說，就是“把先驗知識應(yīng)用到?jīng)Q策過程中”，此處的“先驗知識”也就是人類在觀察到一些現(xiàn)象之前基于經(jīng)驗對最終問題答案做出推斷預(yù)測。

所以，貝葉斯深度學(xué)習(xí)其實是融合了貝葉斯學(xué)習(xí)和深度學(xué)習(xí)的技術(shù)特點，將“知識”與“數(shù)據(jù)”結(jié)合起來，對結(jié)構(gòu)化的先驗信息建模，讓AI在決策時更接近人腦的思維方式，同時更精確的總結(jié)出數(shù)據(jù)分析后的經(jīng)驗。

可以說，貝葉斯深度學(xué)習(xí)技術(shù)為處理不確定信息、提高可解釋性提供了新方法。映射到應(yīng)用效果層面，貝葉斯深度學(xué)習(xí)技術(shù)支持不確定性建模，對臟/假數(shù)據(jù)、數(shù)據(jù)缺失的容忍度顯著提升，能夠從概率角度刻畫真實性，實現(xiàn)“黑盒”模型白盒化，輸出模型層面與實例層面的解釋依據(jù)，算法模型更魯棒、更安全。

依托于貝葉斯深度學(xué)習(xí)，RealAI較其他AI企業(yè)在人工智能領(lǐng)域走的更深一步，同時也鑄就了其他企業(yè)在短期內(nèi)無法突破的技術(shù)壁壘。

發(fā)掘有價值的應(yīng)用場景，就不會存在所謂的泡沫

正如Gartner技術(shù)成熟度曲線所展示的，一項技術(shù)剛出來的時候，公眾往往會高估其應(yīng)用價值。所以，在AlphaGo擊敗人類圍棋選手、OpenAI在電子游戲“Dota”中戰(zhàn)勝人類職業(yè)玩家等一系列典型AI事件發(fā)生后，整個行業(yè)開始出現(xiàn)一些不合理的預(yù)期或是過于異想天開的設(shè)想，這也導(dǎo)致了部分概念型AI公司的出現(xiàn)。2019年以來AI行業(yè)開始趨于冷靜，但此前預(yù)想的“變革性”AI應(yīng)用并未出現(xiàn)，于是，“行業(yè)泡沫”、“AI寒冬”等言論一時間紛紛四起。

“其實AI技術(shù)本身是不存在泡沫的，只要找到真正有價值的場景并與之結(jié)合，AI行業(yè)也不會存在所謂的泡沫。”在RealAI看來，確保安全是AI可信應(yīng)用的基礎(chǔ)，因此RealAI將AI技術(shù)的安全性作為重點研究方向之一，通過預(yù)防AI潛在風(fēng)險，推動產(chǎn)業(yè)健康發(fā)展。

隨著AI技術(shù)在各大領(lǐng)域中的廣泛應(yīng)用，越來越多潛在的安全風(fēng)險也暴露出來，如果不對AI安全問題加以重視，甚至將可能引發(fā)如催生出色情產(chǎn)業(yè)鏈的Deepfake這樣的惡性事件。

其實早在2015年，RealAI的創(chuàng)始團(tuán)隊就意識到“安全問題”將會是未來AI發(fā)展過程中不可避免的一環(huán)，而Deepfake事件也印證了一旦缺乏防御技術(shù)的抵御、監(jiān)管機(jī)制的遏制，AI技術(shù)的使用最終會走向不可控，這也更加堅定了RealAI的想法：AI安全需求在未來一段時間內(nèi)將迎來爆發(fā)式增長。

為此，今年5月，RealAI正式推出了與清華大學(xué)聯(lián)合開發(fā)的RealSafe人工智能安全平臺，支持對多種AI算法進(jìn)行漏洞檢測與漏洞修復(fù)，并輸出AI算法的安全性評測報告。與國際知名科技企業(yè)旗下的AI安全平臺相較，RealSafe支持更為通用的模型、更豐富的對抗攻擊和防御算法，具有領(lǐng)先優(yōu)勢。

此外，RealAI還將業(yè)務(wù)拓展至工業(yè)和金融兩大對AI魯棒性、解釋性要求較高的領(lǐng)域。工業(yè)方面，RealAI自主研發(fā)智能制造決策系統(tǒng)。在制造環(huán)節(jié)，通過智能檢測技術(shù)提升質(zhì)檢穩(wěn)定性、降低成本；在運行環(huán)節(jié)，通過對設(shè)備檢測信號的分析，利用算法找出潛在異常，從而實現(xiàn)對設(shè)備健康狀況的評估和預(yù)測，提高使用壽命，找到引發(fā)故障的原因。目前，該領(lǐng)域的相關(guān)技術(shù)成功應(yīng)用于光伏EL智能缺陷檢測、大壩安全智能評估、石油管道缺陷檢測等實際場景中。

金融方面，依托貝葉斯深度學(xué)習(xí)在無標(biāo)簽、少標(biāo)簽、冷啟動和不確定性處理等場景有更好的模型表現(xiàn)，以及擁有黑盒轉(zhuǎn)白盒的可解釋性優(yōu)勢，RealAI自主研發(fā)了一鍵端到端建模平臺，支持智慧建模和模型部署，流水類數(shù)據(jù)導(dǎo)入即可建模，幫助金融機(jī)構(gòu)解決傳統(tǒng)建模流程慢、模型評估困難、迭代成本高等問題。

在風(fēng)險評估方面，RealAI還推出了獨有的零售信貸風(fēng)控回?fù)品桨福?/strong>通過采用生成式模型等技術(shù)，支持對全體貸款申請群體進(jìn)行建模，解決了深度學(xué)習(xí)技術(shù)對于標(biāo)簽數(shù)據(jù)高依賴的難題，風(fēng)險識別也更加精準(zhǔn)，可以做到從被拒絕貸款的“壞”客戶中“回?fù)?rdquo;一部分用戶，并且保證回?fù)朴脩舴趴詈蟮恼w風(fēng)險水平與原本通過審核的用戶擁有相同的不良率。