創(chuàng)新工場(chǎng)南京國際人工智能研究院馮霽:我們要解決當(dāng)前AI系統(tǒng)的安全性問題

巫盼 7年前 (2019-05-20)

在創(chuàng)新工場(chǎng)和一群優(yōu)秀的人做最酷的事情,讓學(xué)術(shù)界的成果落葉歸根,找到合適的商業(yè)化路徑。

三年前,李開復(fù)曾經(jīng)說過,“今后要將創(chuàng)新工場(chǎng)變‘AI工廠’”,與此同時(shí),創(chuàng)新工場(chǎng)成立了人工智能工程院。

三年后的此時(shí)再去看,VC+AI定位的創(chuàng)新工場(chǎng)不負(fù)眾望,投資了一批AI領(lǐng)域的獨(dú)角獸企業(yè),成為AI界的投資一把手。

就在去年,創(chuàng)新工場(chǎng)人工智能工程院在南京設(shè)立創(chuàng)新工場(chǎng)南京國際人工智能研究院,由南京大學(xué)周志華教授的得意弟子馮霽領(lǐng)銜擔(dān)任執(zhí)行院長。近日,鎂客網(wǎng)在南京采訪了馮霽,聽他分享了研究院從0到1的開始以及兩個(gè)關(guān)鍵的驅(qū)動(dòng)引擎。

創(chuàng)新工場(chǎng)南京國際人工智能研究院馮霽:我們要解決當(dāng)前AI系統(tǒng)的安全性問題

圖 | 創(chuàng)新工場(chǎng)南京國際人工智能研究院院長馮霽

選擇南京,始于人才

從早期的互聯(lián)網(wǎng)到移動(dòng)互聯(lián)網(wǎng)時(shí)代,北上廣深一直是產(chǎn)業(yè)的漩渦中心,這些一線城市坐擁大量的人才、資源和資金,但是到了AI主導(dǎo)的技術(shù)時(shí)代,中心似乎正在向外擴(kuò)散。

那些錯(cuò)過了互聯(lián)網(wǎng)紅利的城市也開始奮起直追,力圖抓住新的技術(shù)紅利。這其中包括擁有著優(yōu)質(zhì)高校資源和人才的南京。

以南京大學(xué)為例,由周志華教授領(lǐng)導(dǎo)的南大人工智能學(xué)院是國內(nèi)首個(gè)成立AI學(xué)院的雙一流A類、C9類高校。

而為了更好地接近這些AI人才,鎂客網(wǎng)此次拜訪的創(chuàng)新工場(chǎng)南京國際人工智能研究院就落戶在南大旁邊的興智科技園。

負(fù)責(zé)研究院的馮霽院長也是一個(gè)典型的南京人才代表:雖然家在西安,但最終選擇了南京作為事業(yè)的起點(diǎn)。

“之前不少人都會(huì)離開南京去往北上廣,還是蠻可惜的。這幾年南京市政府一直鼓勵(lì)一些AI企業(yè)在南京設(shè)點(diǎn)。雖然南京沒有那些擁有海量數(shù)據(jù)的互聯(lián)網(wǎng)公司,但他們另辟蹊徑,作為一個(gè)AI人才輸出的城市,先把人先留住,然后再完善AI產(chǎn)業(yè)的建設(shè)。”

馮霽表示正是非常認(rèn)可南京的政策和優(yōu)質(zhì)人才,創(chuàng)新工場(chǎng)選擇在南京落地兩個(gè)實(shí)體:創(chuàng)新工場(chǎng)南京國際人工智能研究院和創(chuàng)新奇智。

創(chuàng)新工場(chǎng)南京國際人工智能研究院馮霽:我們要解決當(dāng)前AI系統(tǒng)的安全性問題

確實(shí),近年來南京為打造創(chuàng)新名城,非常重視AI這樣的核心技術(shù)的發(fā)展。以南京經(jīng)濟(jì)技術(shù)開發(fā)區(qū)為例,在打造智慧新港期間,他們吸引了包括人工智能、半導(dǎo)體等多個(gè)行業(yè)、領(lǐng)域的高等研究院的入駐,助力人工智能、大數(shù)據(jù)等技術(shù)賦能傳統(tǒng)產(chǎn)業(yè)。

而創(chuàng)新工場(chǎng)南京國際人工智能研究院從0到1的組建過程,于馮霽來說也算是一次很有挑戰(zhàn)的創(chuàng)業(yè)。“這個(gè)機(jī)會(huì)非常有挑戰(zhàn)性,我也非常喜歡。”馮霽坦言。

研究院創(chuàng)建之初,最大的難題便是戰(zhàn)略方向的制定。馮霽強(qiáng)調(diào)企業(yè)和高校做科研的模式是不同的,雖然創(chuàng)新工場(chǎng)屬于投資機(jī)構(gòu),但是脫離了業(yè)務(wù)去做研究未必是個(gè)明智的選擇。

馮霽早期也一直在思考,“在創(chuàng)新工場(chǎng)VC+AI的模式下設(shè)立研究院,既不能做太陽春白雪的科研工作,而太過工程化又不能稱之為研究院,那么我們到底要輸出什么?需要做哪些足夠有意思的事情?”

最終,研究院確定了兩個(gè)關(guān)鍵的方向:計(jì)算金融和AI安全。

計(jì)算金融+AI安全,研究院的使命和責(zé)任

馮霽總結(jié),研究院的兩個(gè)重點(diǎn),一個(gè)是以業(yè)務(wù)為中心,一個(gè)是以技術(shù)為核心。

其中,計(jì)算金融強(qiáng)調(diào)技術(shù)賦能落地,也就是我們常說的的人工智能+金融,通常情況下, 計(jì)算金融又可以分為三個(gè)維度:金融風(fēng)控、智能投顧以及智能投資。

在具體落地上,馮霽透露研究院正在圍繞交易行為的相關(guān)業(yè)務(wù)場(chǎng)景做一些嘗試。“交易行為是市場(chǎng)中買方和賣方一系列交易行為的結(jié)果,但金融市場(chǎng)的噪聲比較大,如何從交易數(shù)據(jù)和行為中挖掘相應(yīng)的模式并作出預(yù)測(cè),相當(dāng)于AI+金融領(lǐng)域的圣杯問題。”

除此之外,研究院另一個(gè)重心便是AI安全,馮霽直言這是非??幔彩欠浅V匾氖虑榈氖虑?。此處的AI安全并不是安防之類的安全保護(hù),特指的是當(dāng)前AI系統(tǒng)的安全和魯棒性。

馮霽認(rèn)為,當(dāng)前的AI解決方案已經(jīng)從低風(fēng)險(xiǎn)應(yīng)用轉(zhuǎn)為高風(fēng)險(xiǎn)應(yīng)用,比如十年前的垃圾郵件分類,逐漸深入到自動(dòng)駕駛系統(tǒng)、安防領(lǐng)域的人臉識(shí)別,一旦AI系發(fā)生錯(cuò)誤或者被人惡意攻擊,后果不堪設(shè)想。“以人臉識(shí)別為例,現(xiàn)在一個(gè)特制的眼鏡(鏡框上繪制了包含算法的花紋)就能騙過人臉識(shí)別系統(tǒng),讓其把甲認(rèn)成乙。”

創(chuàng)新工場(chǎng)南京國際人工智能研究院馮霽:我們要解決當(dāng)前AI系統(tǒng)的安全性問題

所以研究院的一大任務(wù)就是研究那些攻擊算法,設(shè)置相應(yīng)的防御機(jī)制應(yīng)對(duì)攻擊,同時(shí)提出統(tǒng)一的風(fēng)控或者評(píng)估機(jī)制,以第三方的角度來為評(píng)估AI系統(tǒng)的安全性。

另一方面, AI安全除了研究AI系統(tǒng)安全之外,還囊括數(shù)據(jù)隱私保護(hù)相關(guān)的技術(shù)。比如現(xiàn)在由楊強(qiáng)教授等人推動(dòng)的“聯(lián)邦學(xué)習(xí)”,力圖在不共享數(shù)據(jù)以及合法合規(guī)的前提下,利用雙方的數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí),實(shí)現(xiàn)模型增長。

以手機(jī)上的用戶數(shù)據(jù)為例,此前可以一股腦將所有數(shù)據(jù)上傳到云端進(jìn)行數(shù)據(jù)訓(xùn)練。但歐盟數(shù)據(jù)隱私保護(hù)條例GDPR規(guī)定出來后,本地?cái)?shù)據(jù)是禁止被上傳到云端共享的。那么借助聯(lián)邦學(xué)習(xí),手機(jī)廠商可以直接在手機(jī)本地將數(shù)據(jù)訓(xùn)練出一個(gè)小模型,然后將模型的參數(shù)上傳到云端進(jìn)行算法的優(yōu)化,不共享數(shù)據(jù),共享知識(shí)。

就在鎂客網(wǎng)采訪之前,馮霽代表創(chuàng)新工場(chǎng),當(dāng)選為聯(lián)邦學(xué)習(xí)國際標(biāo)準(zhǔn)制定委員會(huì)的副主席,在微眾銀行的楊強(qiáng)教授帶領(lǐng)下,共同參與制定國際上第一個(gè)人工智能協(xié)同與合作的標(biāo)準(zhǔn)。

創(chuàng)新工場(chǎng)南京國際人工智能研究院馮霽:我們要解決當(dāng)前AI系統(tǒng)的安全性問題

如果標(biāo)準(zhǔn)制定順利的話,聯(lián)邦學(xué)習(xí)對(duì)于互聯(lián)網(wǎng)公司以及金融機(jī)構(gòu)都是非常利好的消息,“金融機(jī)構(gòu)在做一些信用評(píng)級(jí)的時(shí)候,如果雙方數(shù)據(jù)能夠共享、共同訓(xùn)練一個(gè)大的模型,銀行的業(yè)務(wù)都會(huì)有所提升。”

在馮霽的描述中,創(chuàng)新工場(chǎng)南京國際人工智能研究院的發(fā)展路徑和目標(biāo)非常明確,一方面是研究金融場(chǎng)景下的人工智能模型,另一方面則是針對(duì)魯棒性和安全性的人工智能研究,關(guān)注AI企業(yè)所提供的人工智能解決方案安全和數(shù)據(jù)隱私的問題,并提供相應(yīng)的算法建議。

學(xué)術(shù)界的研究一定要“不那么有用”

馮霽在確定研究院戰(zhàn)略方向的同時(shí),也十分清醒的認(rèn)識(shí)到企業(yè)和高校研究院的定位差異。“同工業(yè)界相比,學(xué)術(shù)界的研究不應(yīng)該那么有用。”這是馮霽給出的答案。

在他看來,學(xué)術(shù)界和工業(yè)界研究院關(guān)注的內(nèi)容應(yīng)該涇渭分明。以AI為例,當(dāng)前的工業(yè)界應(yīng)用都是在吃學(xué)術(shù)界早期技術(shù)研究的紅利。

就像幾十年前被提出的卷積神經(jīng)網(wǎng)絡(luò),當(dāng)后期的硬件條件跟上,才有了今天大規(guī)模的技術(shù)商業(yè)應(yīng)用市場(chǎng)。而以現(xiàn)在的時(shí)間點(diǎn)去看未來,如果學(xué)術(shù)界停止研發(fā)那些“沒用”的東西,十年后的我們又要何去何從?

所以,從科研角度看,學(xué)術(shù)界不應(yīng)該去做和工業(yè)界一樣的研究,比如那些可以帶來立竿見影經(jīng)濟(jì)效益的事情。“學(xué)術(shù)界更應(yīng)該做一些有利于這個(gè)學(xué)科長久發(fā)展的研究,不要急功近利考慮太多變現(xiàn)的事情。”工業(yè)界的研究則恰恰相反,它們需要思考如何將學(xué)術(shù)的成果變成一個(gè)真正可商業(yè)化的工業(yè)級(jí)產(chǎn)品。

馮霽也坦言,如今兩者的界線越來越模糊,尤其是在大量的學(xué)術(shù)界大佬被企業(yè)挖走,造成學(xué)術(shù)研究斷崖的當(dāng)下。

就像馮霽之所以選擇創(chuàng)新工場(chǎng)南京國家人工智能研究院,骨子里有著創(chuàng)業(yè)精神的他,熱愛和一群優(yōu)秀的人做最酷的事情,讓學(xué)術(shù)界的成果落葉歸根,找到合適的商業(yè)化路徑。

One more thing:一個(gè)大牛云集的夏令營,為AI人才培養(yǎng)做貢獻(xiàn)

馮霽直言,目前人工智能人才缺口十分巨大,創(chuàng)新工場(chǎng)人工智能研究院有義務(wù),也有動(dòng)力,為人工智能的人才培養(yǎng)出一份力。

為此,他們?cè)?017年發(fā)起了免費(fèi)培訓(xùn)項(xiàng)目DeeCamp夏令營,旨在提升高校AI人才在行業(yè)應(yīng)用中的實(shí)踐案例經(jīng)驗(yàn),同時(shí)推進(jìn)產(chǎn)學(xué)研深度結(jié)合。

“這個(gè)夏令營的目的是以項(xiàng)目驅(qū)動(dòng)的方式,培訓(xùn)在校生以團(tuán)隊(duì)合作的方式,從0到1完成一個(gè)人工智能系統(tǒng)的設(shè)計(jì)與開發(fā)工作,試圖搭建高校同產(chǎn)業(yè)界的橋梁。”馮霽表示。

據(jù)了解,今年夏天,在南京市工信局指導(dǎo)下,創(chuàng)新工場(chǎng)南京研究院將同南京大學(xué)人工智能學(xué)院聯(lián)動(dòng)合作,招收100名優(yōu)秀的在校生,用5周的時(shí)間進(jìn)行封閉式全方位的免費(fèi)培訓(xùn)。另外從北京,廣州,上海三地亦會(huì)同時(shí)開展,共計(jì)招收600名左右最優(yōu)秀的在校學(xué)生。目前報(bào)名人數(shù)已經(jīng)接近萬余人。“報(bào)名要趁早。”馮霽說。

創(chuàng)新工場(chǎng)南京國際人工智能研究院馮霽:我們要解決當(dāng)前AI系統(tǒng)的安全性問題

創(chuàng)新工場(chǎng)南京國際人工智能研究院馮霽:我們要解決當(dāng)前AI系統(tǒng)的安全性問題

最后,記得關(guān)注微信公眾號(hào):鎂客網(wǎng)(im2maker),更多干貨在等你!

鎂客網(wǎng)


科技 | 人文 | 行業(yè)

微信ID:im2maker
長按識(shí)別二維碼關(guān)注

硬科技產(chǎn)業(yè)媒體

關(guān)注技術(shù)驅(qū)動(dòng)創(chuàng)新

分享到