安全、可靠、可信的第三代人工智能將快速推動技術(shù)應用落地。

“我們給公司取名‘RealAI’，意在探索真正的人工智能。其實現(xiàn)在的AI技術(shù)距離真正的人工智能還有很長的路要走。”

那什么才是真正的AI呢？在RealAI看來，“真正的AI應該是有理解能力、具備‘人類智能水平’的AI。”

后深度學習時代的人工智能

2016年，清華大學人工智能研究院院長張鈸院士首次提出了“后深度學習時代的人工智能”的概念，并就AI技術(shù)發(fā)展做了階段性分類。簡單來說，AI技術(shù)發(fā)展主要分為三個階段：

第一代，“知識驅(qū)動型”AI，以規(guī)則模型/符號模型為主的符號主義AI，可以從宏觀層面模擬人類行為，但對于無法精確描述的知識束手無策；

第二代，“數(shù)據(jù)驅(qū)動型”AI，以深度學習為代表，對領域知識要求不高，可以通過深度神經(jīng)網(wǎng)絡建立計算模型，從數(shù)據(jù)中發(fā)現(xiàn)規(guī)律，但高度依賴大量高質(zhì)量的訓練數(shù)據(jù)；

第三代，“知識驅(qū)動+數(shù)據(jù)驅(qū)動型”AI，即安全、可靠、可信的AI，白盒化AI模型提供可理解的決策依據(jù)，即便在樣本不足、噪音高、標注差等未知場景中也能夠可靠提升預測效果以及持續(xù)保持較高的判斷力。

目前以深度神經(jīng)網(wǎng)絡為代表的AI技術(shù)尚處于第二階段，魯棒性較差、易受干擾，并且決策過程為“黑盒”，可解釋性差，這也直接導致了關(guān)鍵AI技術(shù)在落地應用時達不到預期。基于此，清華大學率先倡導發(fā)展第三代人工智能，而RealAI作為清華大學人工智能研究院的核心孵化企業(yè)，其主要目標是從底層技術(shù)框架出發(fā)，專注第三代人工智能基礎技術(shù)研究，并探索其產(chǎn)業(yè)落地方向，致力于讓前沿AI技術(shù)在生產(chǎn)、生活中得到真正的應用。

值得一提的是，去年9月，美國國防高級研究計劃局DARPA也相繼發(fā)布了“AI NEXT”計劃，該計劃將斥資20億美元，圍繞“新能力、可靠性、對抗性、高性能和可解釋性”五大方向，旨在推動人工智能第三次浪潮?？梢哉f，當前中美兩國針對第三代人工智能的競爭已經(jīng)展開，清華大學、RealAI等中國研究機構(gòu)和企業(yè)則是搶占了先機。

引入貝葉斯深度學習，用概率統(tǒng)計方法模擬人類決策

實際上，人工智能很多時候需要做“預測問題”，要讓AI具備人腦的判斷、決策能力，就需要讓AI學習人類在做預測時的決策過程——即“先假設，再找論據(jù)進行修正”的方法，先對現(xiàn)象做預判，再基于知識或數(shù)據(jù)給予這個預判以修正。例如，人類在判斷明天是否下雨的時候，會先做假定，再去觀察云層、風力、氣溫等，并基于看到的現(xiàn)象去驗證“下雨”的可能性，即由果尋因。

那么，如何讓AI也具備這樣的能力？RealAI給出的答案是，貝葉斯深度學習。從技術(shù)本身來看，貝葉斯深度學習以貝葉斯理論為核心，即利用概率表示所有形式的不確定性，通過概率規(guī)則來實現(xiàn)學習和推理過程，是一種從概率統(tǒng)計的角度定義問題的方式。簡單來說，就是“把先驗知識應用到?jīng)Q策過程中”，此處的“先驗知識”也就是人類在觀察到一些現(xiàn)象之前基于經(jīng)驗對最終問題答案做出推斷預測。

所以，貝葉斯深度學習其實是融合了貝葉斯學習和深度學習的技術(shù)特點，將“知識”與“數(shù)據(jù)”結(jié)合起來，對結(jié)構(gòu)化的先驗信息建模，讓AI在決策時更接近人腦的思維方式，同時更精確的總結(jié)出數(shù)據(jù)分析后的經(jīng)驗。

可以說，貝葉斯深度學習技術(shù)為處理不確定信息、提高可解釋性提供了新方法。映射到應用效果層面，貝葉斯深度學習技術(shù)支持不確定性建模，對臟/假數(shù)據(jù)、數(shù)據(jù)缺失的容忍度顯著提升，能夠從概率角度刻畫真實性，實現(xiàn)“黑盒”模型白盒化，輸出模型層面與實例層面的解釋依據(jù)，算法模型更魯棒、更安全。

依托于貝葉斯深度學習，RealAI較其他AI企業(yè)在人工智能領域走的更深一步，同時也鑄就了其他企業(yè)在短期內(nèi)無法突破的技術(shù)壁壘。

發(fā)掘有價值的應用場景，就不會存在所謂的泡沫

正如Gartner技術(shù)成熟度曲線所展示的，一項技術(shù)剛出來的時候，公眾往往會高估其應用價值。所以，在AlphaGo擊敗人類圍棋選手、OpenAI在電子游戲“Dota”中戰(zhàn)勝人類職業(yè)玩家等一系列典型AI事件發(fā)生后，整個行業(yè)開始出現(xiàn)一些不合理的預期或是過于異想天開的設想，這也導致了部分概念型AI公司的出現(xiàn)。2019年以來AI行業(yè)開始趨于冷靜，但此前預想的“變革性”AI應用并未出現(xiàn)，于是，“行業(yè)泡沫”、“AI寒冬”等言論一時間紛紛四起。

“其實AI技術(shù)本身是不存在泡沫的，只要找到真正有價值的場景并與之結(jié)合，AI行業(yè)也不會存在所謂的泡沫。”在RealAI看來，確保安全是AI可信應用的基礎，因此RealAI將AI技術(shù)的安全性作為重點研究方向之一，通過預防AI潛在風險，推動產(chǎn)業(yè)健康發(fā)展。

隨著AI技術(shù)在各大領域中的廣泛應用，越來越多潛在的安全風險也暴露出來，如果不對AI安全問題加以重視，甚至將可能引發(fā)如催生出色情產(chǎn)業(yè)鏈的Deepfake這樣的惡性事件。

其實早在2015年，RealAI的創(chuàng)始團隊就意識到“安全問題”將會是未來AI發(fā)展過程中不可避免的一環(huán)，而Deepfake事件也印證了一旦缺乏防御技術(shù)的抵御、監(jiān)管機制的遏制，AI技術(shù)的使用最終會走向不可控，這也更加堅定了RealAI的想法：AI安全需求在未來一段時間內(nèi)將迎來爆發(fā)式增長。

為此，今年5月，RealAI正式推出了與清華大學聯(lián)合開發(fā)的RealSafe人工智能安全平臺，支持對多種AI算法進行漏洞檢測與漏洞修復，并輸出AI算法的安全性評測報告。與國際知名科技企業(yè)旗下的AI安全平臺相較，RealSafe支持更為通用的模型、更豐富的對抗攻擊和防御算法，具有領先優(yōu)勢。

此外，RealAI還將業(yè)務拓展至工業(yè)和金融兩大對AI魯棒性、解釋性要求較高的領域。工業(yè)方面，RealAI自主研發(fā)智能制造決策系統(tǒng)。在制造環(huán)節(jié)，通過智能檢測技術(shù)提升質(zhì)檢穩(wěn)定性、降低成本；在運行環(huán)節(jié)，通過對設備檢測信號的分析，利用算法找出潛在異常，從而實現(xiàn)對設備健康狀況的評估和預測，提高使用壽命，找到引發(fā)故障的原因。目前，該領域的相關(guān)技術(shù)成功應用于光伏EL智能缺陷檢測、大壩安全智能評估、石油管道缺陷檢測等實際場景中。

金融方面，依托貝葉斯深度學習在無標簽、少標簽、冷啟動和不確定性處理等場景有更好的模型表現(xiàn)，以及擁有黑盒轉(zhuǎn)白盒的可解釋性優(yōu)勢，RealAI自主研發(fā)了一鍵端到端建模平臺，支持智慧建模和模型部署，流水類數(shù)據(jù)導入即可建模，幫助金融機構(gòu)解決傳統(tǒng)建模流程慢、模型評估困難、迭代成本高等問題。

在風險評估方面，RealAI還推出了獨有的零售信貸風控回撈方案，通過采用生成式模型等技術(shù)，支持對全體貸款申請群體進行建模，解決了深度學習技術(shù)對于標簽數(shù)據(jù)高依賴的難題，風險識別也更加精準，可以做到從被拒絕貸款的“壞”客戶中“回撈”一部分用戶，并且保證回撈用戶放款后的整體風險水平與原本通過審核的用戶擁有相同的不良率。

歸根結(jié)底，AI是一項非常有用的技術(shù)，只要找到合適的場景就能夠發(fā)揮出作用。作為一支對未來AI充滿熱愛的團隊，RealAI仍然相信，無論是AI技術(shù)本身還是AI產(chǎn)業(yè)都還是處于快速發(fā)展的階段。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！