Cloud TPU意圖優(yōu)化計(jì)算受限問(wèn)題，并讓機(jī)器學(xué)習(xí)模型訓(xùn)練更加容易。

當(dāng)?shù)貢r(shí)間凌晨6點(diǎn)多，Google Brain負(fù)責(zé)人、谷歌首席架構(gòu)師Jeff Dean連發(fā)10條Twitter，只想告訴人們一件事情——我們推出了Cloud TPU的beta版，第三方廠商和開發(fā)者可以每小時(shí)花費(fèi)6.5美元來(lái)使用它，不過(guò)數(shù)量有限，你需要先行填表申請(qǐng)。

一直以來(lái)，TPU都被用于谷歌內(nèi)部產(chǎn)品，隨著Cloud TPU的開放，不管是云服務(wù)還是AI芯片市場(chǎng)，都將迎來(lái)一場(chǎng)變動(dòng)。

谷歌開放Cloud TPU測(cè)試版，每小時(shí)6.5美元，數(shù)量有限

在2016年5月，谷歌在I/O大會(huì)上首次公布了TPU（張量處理單元）。彼時(shí)，TPU已經(jīng)在谷歌數(shù)據(jù)中心被使用了一年，而李世石與AlphaGo的那一場(chǎng)世紀(jì)大戰(zhàn)中，TPU也發(fā)揮了效用，并被谷歌成為AlphaGo打敗李世石的秘密武器。

而從今天開始，第三方廠商和開發(fā)者可以在Google Cloud Platform買到Cloud TPU產(chǎn)品，值得注意的是，此次發(fā)放的是測(cè)試版，且數(shù)量有限。如果你想使用它，就必須先在谷歌申請(qǐng)配額并明確自己的ML需求。

根據(jù)Jeff Dean在Twitter發(fā)布的第三條推文顯示，基于新發(fā)布的Cloud TPU，不到一天的時(shí)間，人們就可以在ImageNet上把ResNet-50模型訓(xùn)練到75%的精度，成本不足200美元。

Cloud TPU意圖優(yōu)化計(jì)算受限問(wèn)題，并讓機(jī)器學(xué)習(xí)模型訓(xùn)練更加容易

谷歌博文顯示，Cloud TPU是谷歌設(shè)計(jì)的硬件加速器，專為加速、擴(kuò)展特定的TensorFlow機(jī)器學(xué)習(xí)工作負(fù)載而優(yōu)化。每個(gè)Cloud TPU由4個(gè)定制化的ASIC組成，擁有180萬(wàn)億次/秒浮點(diǎn)運(yùn)算的計(jì)算能力，以及單塊板卡64GB的高寬帶內(nèi)存。

在使用上，這些具備高性能的板卡可以單獨(dú)使用，也可以通過(guò)超高速專用網(wǎng)絡(luò)形成一個(gè)可以達(dá)到每秒萬(wàn)萬(wàn)億次浮點(diǎn)運(yùn)算的ML超級(jí)電腦，谷歌將之稱作“TPU pod”。在今年晚些時(shí)候，“TPU pod”將在谷歌云上線，通過(guò)GCP供應(yīng)這種更大的超級(jí)計(jì)算機(jī)。

除了解決“機(jī)器學(xué)習(xí)計(jì)算受限”這一令很多研究院和工程師都頭疼的問(wèn)題，Cloud TPU還將幫助他們讓機(jī)器人學(xué)習(xí)模型訓(xùn)練更加簡(jiǎn)單易上手。

谷歌表示，利用Cloud TPU加上高水平的TensorFlow API，以及谷歌開源的一些高性能Cloud TPU模型，開發(fā)者現(xiàn)在能夠迅速展開工作，像是：

ResNet-50 以及其它流行的圖片分類模型；

針對(duì)機(jī)器翻譯和語(yǔ)言建模的 Transformer；

針對(duì)物體追蹤的 RetinaNet；

……

后面，谷歌方面還會(huì)開源更多的ML模型。

此外，Cloud TPU還提供了一個(gè)可擴(kuò)展的ML平臺(tái)，對(duì)ML計(jì)算資源的計(jì)算和管理進(jìn)行了簡(jiǎn)化：

為團(tuán)隊(duì)提供最先進(jìn)的ML加速，并根據(jù)需求的變化動(dòng)態(tài)調(diào)整容量（capacity）；

直接使用經(jīng)過(guò)Google多年優(yōu)化的高度集成機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施，無(wú)需投入大量金錢、時(shí)間、專業(yè)人才來(lái)設(shè)計(jì)、安裝、維護(hù)現(xiàn)場(chǎng)機(jī)器學(xué)習(xí)計(jì)算集群，不用考慮供電、冷卻、聯(lián)網(wǎng)、存儲(chǔ)要求等問(wèn)題；

無(wú)需安裝驅(qū)動(dòng)程序，Cloud TPU全部預(yù)配置完成；

享受所有Google云服務(wù)同樣復(fù)雜的安全機(jī)制和實(shí)踐的保護(hù)。

一個(gè)月之內(nèi)，谷歌在機(jī)器學(xué)習(xí)連發(fā)兩個(gè)大招

在此之前，谷歌的TPU 一直是在谷歌內(nèi)部進(jìn)行使用。目前，TPU已經(jīng)經(jīng)歷了兩代的變革，第一代TPU為谷歌搜索、谷歌翻譯、谷歌相冊(cè)等多種應(yīng)用提供背后支持。第二代TPU是谷歌于去年Google I/O 大會(huì)上推出的“Cloud TPU”，也就是現(xiàn)在面向第三方廠商和開發(fā)者開放的產(chǎn)品，

據(jù)Jeff Dean表示，第一代TPU主要用于推行運(yùn)算，而第二代則“加入了能滿足訓(xùn)練需求的硬件結(jié)構(gòu)，同時(shí)還考慮了如何將這些誒計(jì)算單元組合成大型系統(tǒng)的架構(gòu)方法。”

而在性能方面，根據(jù)Jeff Dean今年曬出的“成績(jī)單”，僅第一代TPU，其就比現(xiàn)代GPU或CPU同類產(chǎn)品快15-30倍，性能/功耗約為30-80倍優(yōu)化。

Cloud TPU此次是首次對(duì)外全面開放，而關(guān)注谷歌和人工智能的人就會(huì)發(fā)現(xiàn)，在一個(gè)月內(nèi)，這已經(jīng)是谷歌第二次出大招了。

今年1月中旬，谷歌發(fā)布Cloud AutoML。簡(jiǎn)單來(lái)講，谷歌Cloud AutoML就是一個(gè)“開發(fā)神器”，讓不懂機(jī)器學(xué)習(xí)的小白用戶也可以訓(xùn)練出一個(gè)定制化的機(jī)器學(xué)習(xí)模型——開發(fā)者只需要上傳一組圖片，然后導(dǎo)入標(biāo)簽或者通過(guò)App創(chuàng)建，隨后谷歌的系統(tǒng)就會(huì)自動(dòng)生成一個(gè)定制化的機(jī)器學(xué)習(xí)模型。

當(dāng)前，鑒于還是Alpha測(cè)試版階段，該服務(wù)只支持計(jì)算機(jī)視覺(jué)模型，在后面將陸續(xù)支持語(yǔ)音、翻譯、自然語(yǔ)言處理等標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)模型。

最后：此前對(duì)TPU不以為然的黃仁勛還坐得住嗎？

不管是Cloud TPU，還是Cloud AutoML，谷歌所針對(duì)的都是機(jī)器學(xué)習(xí)模型的加速以及建模等等。

通過(guò)AlphaGo對(duì)李世石一戰(zhàn)，人們見識(shí)到了谷歌TPU的厲害。不過(guò)，一直以來(lái)，TPU都是谷歌機(jī)器學(xué)習(xí)框架TensorFlow的專用處理器，這也使得AI芯片和云服務(wù)的廠商在市場(chǎng)上少了一個(gè)“勁敵”。

還記得此前，英偉達(dá)的黃仁勛在提及谷歌TPU時(shí)，列舉了一些參數(shù)：新的TPU可以實(shí)現(xiàn)45 teraflop的運(yùn)算能力，而英偉達(dá)最新的Volta GPU則能達(dá)到120 teraflop?？偟膩?lái)說(shuō)，就是對(duì)其不以為然。

不過(guò)，從最新的數(shù)據(jù)顯示，英偉達(dá)最新一代Titan顯卡Titan V擁有110 萬(wàn)億次/秒浮點(diǎn)運(yùn)算的計(jì)算能力。相比于Cloud TPU的計(jì)算性能，這一款GPU還是有點(diǎn)差距的。

與此同時(shí)，鑒于谷歌在云服務(wù)市場(chǎng)的占比以及軟硬件產(chǎn)品的普及度，在此次開放Cloud TPU后，云服務(wù)市場(chǎng)和AI芯片市場(chǎng)必將掀起軒然大波。對(duì)此，不知道黃仁勛還坐得住嗎？

最后，記得關(guān)注微信公眾號(hào)：鎂客網(wǎng)（im2maker），更多干貨在等你！