如何借助云計(jì)算和大數(shù)據(jù)等技術(shù)，將區(qū)塊鏈及人工智能迅速落地，成為各界關(guān)注的焦點(diǎn)。

云計(jì)算、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)及人工智能是數(shù)字新技術(shù)的核心，在新一輪數(shù)字技術(shù)革命到來之際，誰能率先掌握這些熱門技術(shù)，無疑將在數(shù)字經(jīng)濟(jì)發(fā)展的長河中擁有更多話語權(quán)。這五大數(shù)字技術(shù)中，區(qū)塊鏈和人工智能相較于其他數(shù)字技術(shù)，還處在初級(jí)階段，如何借助云計(jì)算和大數(shù)據(jù)等技術(shù)，將區(qū)塊鏈及人工智能迅速落地，成為各界關(guān)注的焦點(diǎn)。

5月15日，由國內(nèi)領(lǐng)先的中立云服務(wù)商UCloud主辦的Think in Cloud 2018在北京富力萬麗酒店隆重舉行。Think in Cloud（以下簡(jiǎn)稱“TIC”）已連續(xù)舉辦四屆，是中國云計(jì)算行業(yè)的頂級(jí)盛會(huì)。除UCloud高層和技術(shù)專家外，還邀請(qǐng)了眾多互聯(lián)網(wǎng)及傳統(tǒng)領(lǐng)域創(chuàng)新公司的CEO、CTO、行業(yè)和技術(shù)專家以及諸多云生態(tài)體系中的合作伙伴到場(chǎng)分享，傳達(dá)最前沿的技術(shù)熱點(diǎn)與行業(yè)洞察，吸引了云計(jì)算、大數(shù)據(jù)、人工智能、區(qū)塊鏈、物聯(lián)網(wǎng)等諸多行業(yè)領(lǐng)域的投資、管理、技術(shù)、運(yùn)維等五千人余人參會(huì)。

TIC 2018人工智能的應(yīng)用實(shí)踐專場(chǎng)

近兩年，人工智能產(chǎn)業(yè)迅速興起，AI技術(shù)逐漸被運(yùn)用于各行各業(yè)。無論是初涉人工智能應(yīng)用的傳統(tǒng)互聯(lián)網(wǎng)企業(yè)，抑或是人工智能領(lǐng)域的創(chuàng)業(yè)公司，如何快速、高效地落地AI應(yīng)用都是巨大的挑戰(zhàn)。在5月15日下午的人工智能的應(yīng)用實(shí)踐專場(chǎng)上，來自UCloud、馭勢(shì)科技、第四范式、褚時(shí)科技的專家，以及企業(yè)人士、媒體記者齊聚一堂，聚焦人工智能的實(shí)際應(yīng)用與實(shí)踐，探討如何利用云計(jì)算技術(shù)助推機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、視覺計(jì)算等AI技術(shù)和應(yīng)用迅速落地。

公有云助力AI應(yīng)用快速落地

究竟什么場(chǎng)景需要AI賦能？如何快速、低投入地驗(yàn)證AI技術(shù)？如何快速展開AI應(yīng)用業(yè)務(wù)？如何高效實(shí)現(xiàn)AI應(yīng)用迭代？UCloud AI平臺(tái)技術(shù)專家宋翔在開場(chǎng)演講中為在場(chǎng)觀眾一一解答。接觸AI的人都知道，AI有大量的框架、各種各樣的技術(shù)算法和實(shí)現(xiàn)方式，實(shí)施過程中會(huì)用到各種底層的資源，從AI技術(shù)驗(yàn)證、開展AI應(yīng)用業(yè)務(wù)，到AI應(yīng)用迭代整個(gè)過程將會(huì)遇到各種各樣的問題。

UCloud AI平臺(tái)技術(shù)專家 宋翔

宋翔總結(jié)AI的挑戰(zhàn)來自三大方面：一是基礎(chǔ)環(huán)境，在AI入門階段基礎(chǔ)環(huán)境是非常大的挑戰(zhàn)，涉及AI框架、算法庫、GPU技術(shù)庫、存儲(chǔ)等各種設(shè)備，各類交叉選擇之后的環(huán)境更加復(fù)雜，如何選擇適合自己的研發(fā)環(huán)境是一大挑戰(zhàn)；二是AI系統(tǒng)建設(shè)，這個(gè)過程中需要考慮算法兼容性、平臺(tái)擴(kuò)展性、分布式化、縱向擴(kuò)展、高可用以及容災(zāi)能力等問題；三是投入產(chǎn)出問題，如何用較少的投入得到較高的回報(bào)？如何通過調(diào)研精確需求，控制研發(fā)成本，如何降低資源成本和運(yùn)營成本，讓研發(fā)人員更關(guān)注算法，都是AI所面臨的挑戰(zhàn)。

如何應(yīng)對(duì)這些挑戰(zhàn)呢？UCloud認(rèn)為解決這些問題的核心方法就是實(shí)現(xiàn)平臺(tái)化，包括環(huán)境分離、分布式化、可擴(kuò)展性和資源共享四個(gè)方面。環(huán)境分離方面有兩個(gè)主要方向，一是通過容器的封裝把軟件和運(yùn)行環(huán)境隔離，把存儲(chǔ)和計(jì)算隔離，讓更多的存儲(chǔ)資源可以接入到AI環(huán)境中去；二是數(shù)據(jù)分離，因?yàn)閷?duì)AI來說，訓(xùn)練過程中的數(shù)據(jù)非常重要，只需要提供本地存儲(chǔ)的接口即可訪問各種數(shù)據(jù)層，實(shí)現(xiàn)良好的數(shù)據(jù)訪問。

AI訓(xùn)練平臺(tái)

同時(shí)，平臺(tái)化能做到良好的資源共享，例如通過UCloud的AI訓(xùn)練平臺(tái)和在線服務(wù)平臺(tái)，用戶想做AI訓(xùn)練，只需要把任務(wù)提交到訓(xùn)練平臺(tái)，就可以在平臺(tái)上自動(dòng)的完成任務(wù)，而無需要關(guān)心這個(gè)任務(wù)是否失敗、到底在哪臺(tái)機(jī)器上跑等一系列問題，可以大大簡(jiǎn)化AI算法人員使用平臺(tái)的復(fù)雜度；對(duì)于算法人員或業(yè)務(wù)人員來說，有了在線服務(wù)平臺(tái)，當(dāng)他實(shí)現(xiàn)算法之后，可以用這個(gè)平臺(tái)快速地部署自己分布式的在線任務(wù)，而無需自己搭建一個(gè)分布式的環(huán)境或服務(wù)。

AI在線推理平臺(tái)

宋翔提到，有了這些平臺(tái)和技術(shù)，研發(fā)人員在做橫向擴(kuò)展和縱向擴(kuò)展時(shí)變得更加簡(jiǎn)單，分布式平臺(tái)在資源使用率提高的同時(shí)，也不需要太多的成本去管理這些資源。最后，宋翔還列舉了三個(gè)UAI-Inference以及UAI-Train在互聯(lián)網(wǎng)社交、廣告及AI培訓(xùn)領(lǐng)域的典型案例，分享UCloud在人工智能技術(shù)領(lǐng)域的實(shí)踐經(jīng)驗(yàn)。

嵌入式設(shè)備上的實(shí)時(shí)深度學(xué)習(xí)方法實(shí)踐

馭勢(shì)科技人工智能技術(shù)負(fù)責(zé)人潘爭(zhēng)分享了馭勢(shì)科技在嵌入式設(shè)備上的實(shí)時(shí)深度學(xué)習(xí)方法實(shí)踐，以及UCloud GPU服務(wù)器在自動(dòng)駕駛領(lǐng)域的應(yīng)用情況。視覺感知具有信息更豐富、視野更寬闊、基建更配合、硬件更便宜幾大特點(diǎn)。潘爭(zhēng)介紹到，從2010年開始，每年一屆的ImageNet計(jì)算機(jī)視覺挑戰(zhàn)賽通過不停的調(diào)優(yōu)深度學(xué)習(xí)網(wǎng)絡(luò)，2017年已經(jīng)將識(shí)別的錯(cuò)誤率降到2.5%以下，可見視覺識(shí)別的進(jìn)步之大。

馭勢(shì)科技人工智能技術(shù)負(fù)責(zé)人 潘爭(zhēng)

視覺感知在做模版時(shí)可以不計(jì)成本，但是當(dāng)技術(shù)落地成為產(chǎn)品時(shí)卻需要進(jìn)行諸多考量，如在自動(dòng)駕駛領(lǐng)域要做到低成本、低功耗、合車規(guī)、實(shí)時(shí)性以及精度讓用戶滿意等等。其中，合車規(guī)是自動(dòng)駕駛領(lǐng)域的特別需求，汽車的壽命有十余年，汽車?yán)锏乃杏布夹枰獫M足安全標(biāo)準(zhǔn)，電子器件從零下四十度到零上七八十度都要正常運(yùn)行，車規(guī)級(jí)的要求十分嚴(yán)苛。

PVANet+fasterRCNN物體檢測(cè)

馭勢(shì)科技希望用嵌入式的GPU平臺(tái)去完成視覺感知所需要的計(jì)算，達(dá)到像激光雷達(dá)一樣甚至更低的成本。要做到這一點(diǎn)，就需要做諸多的網(wǎng)絡(luò)壓縮優(yōu)化工作，同時(shí)在嵌入式的GPU上做運(yùn)算，精度也要足夠高，這就引出了在效率和精度之間如何取舍，達(dá)到一個(gè)比較平衡的網(wǎng)絡(luò)選擇的話題。潘爭(zhēng)介紹，以人車檢測(cè)性能為例，完成這樣的檢測(cè)任務(wù)已經(jīng)不再需要成百上千層的網(wǎng)絡(luò)，在相對(duì)密集的場(chǎng)景中，馭勢(shì)科技可以把所有的人、車檢測(cè)出來，更好的輔助自動(dòng)駕駛。最后，潘爭(zhēng)還向參會(huì)嘉賓分享了嵌入式GPU+CPU加速以及低成本車規(guī)級(jí)的FPGA加速技術(shù)在自動(dòng)駕駛領(lǐng)域的應(yīng)用情況，得到了與會(huì)嘉賓的一致好評(píng)。

基于云計(jì)算構(gòu)建機(jī)器學(xué)習(xí)系統(tǒng)

UCloud實(shí)驗(yàn)室負(fù)責(zé)人兼高級(jí)研發(fā)總監(jiān)葉理燈在會(huì)上介紹了云計(jì)算的發(fā)展歷程，Serverless產(chǎn)品及架構(gòu)，如何構(gòu)建機(jī)器學(xué)習(xí)在線推測(cè)系統(tǒng)，以及其在頭像識(shí)別、OCR和AI應(yīng)用市場(chǎng)領(lǐng)域的實(shí)際應(yīng)用案例。他提到，Serverless具有免運(yùn)維，可彈性擴(kuò)展，高可用，按需付費(fèi)等特點(diǎn)，對(duì)開發(fā)者來說，構(gòu)建一個(gè)APP無需考慮架構(gòu)，直接用Serverless即可，這是一項(xiàng)巨大的進(jìn)步。

UCloud實(shí)驗(yàn)室負(fù)責(zé)人兼高級(jí)研發(fā)總監(jiān) 葉理燈

葉理燈表示，構(gòu)建AI機(jī)器學(xué)習(xí)系統(tǒng)需要進(jìn)行Build、Train和Inference三個(gè)步驟。選定算法及參數(shù)，進(jìn)行訓(xùn)練之后的模型變成在線服務(wù)就是Inference的過程。在線推測(cè)系統(tǒng)包含底層計(jì)算平臺(tái)，APP Engine層，以及通過SDK進(jìn)行數(shù)據(jù)流的控制。

在線分類系統(tǒng)

UCloud的UAI-Inference提供海量計(jì)算節(jié)點(diǎn)，自動(dòng)負(fù)載均衡，動(dòng)態(tài)擴(kuò)縮容，適用于圖像識(shí)別、自然語言處理等多個(gè)AI領(lǐng)域。葉理燈分享了來自社交用戶的頭像識(shí)別案例，可自動(dòng)識(shí)別用戶是否上傳頭像、頭像是人還是風(fēng)景，從而根據(jù)不同信息推薦不同的內(nèi)容。

頭像識(shí)別

用戶自己搭建這樣的系統(tǒng)會(huì)有很多負(fù)擔(dān)，既要考慮高可用，也不知道具體需要申請(qǐng)多少虛擬機(jī)來完成這個(gè)任務(wù)。有了在線推測(cè)系統(tǒng)，只需要將每次訓(xùn)練的模型推給UCloud，用戶就可以很快地構(gòu)建自己的系統(tǒng)，而且無需運(yùn)維。此外，葉理燈還還介紹了UAI-Inference在OCR、AI應(yīng)用市場(chǎng)等實(shí)際應(yīng)用場(chǎng)景的落地情況，讓參會(huì)聽眾受益頗多。

AI技術(shù)在客服領(lǐng)域的應(yīng)用實(shí)踐

第四范式智能客服負(fù)責(zé)人、資深數(shù)據(jù)科學(xué)家刑少敏分享了《AI技術(shù)在客服領(lǐng)域的應(yīng)用實(shí)踐》。第四范式是國際領(lǐng)先的人工智能技術(shù)與服務(wù)提供商，由其開創(chuàng)的“遷移學(xué)習(xí)”被業(yè)界認(rèn)為是“下一代的人工智能技術(shù)”。 當(dāng)前，隨著社會(huì)經(jīng)濟(jì)的發(fā)展，客服的成本逐漸提高，人工客服無法24小時(shí)在線，為智能客服提供了廣闊的市場(chǎng)。

第四范式智能客服負(fù)責(zé)人、資深數(shù)據(jù)科學(xué)家 刑少敏

智能客服的常見功能包括單輪問答、多輪對(duì)話和人機(jī)協(xié)作三類。實(shí)際上，智能客服只用來解決高頻簡(jiǎn)單的問題，疑難問題則是交給人工客服完成，因此大部分場(chǎng)景下仍然需要人機(jī)協(xié)作，也就是機(jī)器人+人工進(jìn)行回答的模式，只有少部分由機(jī)器人直接推薦答案。

智能客服技術(shù)難點(diǎn)

智能客服有其基本的工作流程，需要將問題進(jìn)行自然語言處理，經(jīng)過意圖識(shí)別，以及自定義的知識(shí)庫和知識(shí)圖譜，當(dāng)用戶問題提交時(shí)，通過模板或機(jī)器翻譯，轉(zhuǎn)換成知識(shí)圖譜查詢語言，從知識(shí)圖譜工具里查出結(jié)果，進(jìn)行檔案的包裝，返回給用戶，就是一個(gè)完整的問答過程。這是以人為主，機(jī)器為輔的方式。

第四范式智能客服

第四范式的智能客服能夠?qū)崿F(xiàn)以機(jī)器人為主，以人為輔，也就是無縫的人機(jī)協(xié)作。在前期，人話占問答的一大部分，人工回答以后，機(jī)器進(jìn)行學(xué)習(xí)，隨著機(jī)器學(xué)習(xí)的知識(shí)越來越多，知識(shí)庫越來越豐富，機(jī)器能回答的會(huì)話也將成倍數(shù)增長，大大節(jié)約了用戶的客服成本。

AI技術(shù)在教育領(lǐng)域的應(yīng)用

“近兩年培訓(xùn)機(jī)構(gòu)有一些來自家長的需求，他們希望有一個(gè)能夠陪小孩對(duì)弈的系統(tǒng)，且系統(tǒng)的難度可控，AI技術(shù)如何在教育領(lǐng)域應(yīng)用，其實(shí)需要一些小技巧。” 北京褚時(shí)科技CEO李曙光提到。在自動(dòng)口語評(píng)測(cè)領(lǐng)域，基于GOP的評(píng)測(cè)技術(shù)，例如英語流利說，是通過語音模型分?jǐn)?shù)對(duì)比發(fā)現(xiàn)有問題的讀音，這項(xiàng)技術(shù)主要用于跟讀環(huán)節(jié)。還有Freetalk口語評(píng)測(cè)技術(shù)，類似托福、雅思的開放式題目，可以運(yùn)用這項(xiàng)技術(shù)進(jìn)行口語考試的自動(dòng)打分和批改，分析用戶的發(fā)言、語音語調(diào)、語法和流利度等等。目前機(jī)器在打分上已經(jīng)可以取代人工，大幅地降低了教師的重復(fù)勞動(dòng)。

北京褚時(shí)科技CEO 李曙光

人工智能對(duì)于培訓(xùn)機(jī)構(gòu)而言，不單單是節(jié)省成本的問題，由于大部分學(xué)生缺乏練習(xí)環(huán)節(jié)，因此AI技術(shù)還能幫助學(xué)生提高學(xué)習(xí)成績。自動(dòng)作文評(píng)測(cè)技術(shù)讓老師更愿意為學(xué)生布置作文作業(yè)，學(xué)生通過這項(xiàng)技術(shù)，一篇作文可以不斷練習(xí)40至50次，不僅降低了老師的工作強(qiáng)度，也提高了學(xué)生的學(xué)習(xí)成績，一舉兩得。自動(dòng)作文評(píng)測(cè)基于海量的人工批改數(shù)據(jù)研發(fā)，實(shí)現(xiàn)了語法錯(cuò)誤檢查、自然語言處理分析特征提取以及自動(dòng)打分引擎，打分緯度除了語法，還有用詞、文章脈絡(luò)、句子之間連貫程度等更加復(fù)雜的方面。

手寫識(shí)別

褚時(shí)科技在手寫識(shí)別方面采用UCloud云服務(wù)器，進(jìn)行訓(xùn)練和部署，主要用于學(xué)生手寫作文的場(chǎng)景，涉及到文本的預(yù)處理、切割算法以及解碼等多個(gè)環(huán)節(jié)。

無論是炫酷的無人駕駛，人機(jī)協(xié)作的智能客服，還是自動(dòng)評(píng)測(cè)及手寫識(shí)別，這些AI應(yīng)用的背后都離不開云計(jì)算提供的優(yōu)質(zhì)數(shù)據(jù)分析平臺(tái)以及穩(wěn)定的技術(shù)支撐。當(dāng)前,人工智能的落地場(chǎng)景越來越豐富，人工智能能夠如此快速的落地，離不開云計(jì)算的支持，人工智能融入“云”端已是大勢(shì)所趨。相信在明年的TIC大會(huì)上，能看到更多來自不同行業(yè)的AI實(shí)踐干貨分享，讓我們共同期待吧！

最后，記得關(guān)注微信公眾號(hào)：鎂客網(wǎng)（im2maker），更多干貨在等你！