一個(gè)AI大模型，背后就需要數(shù)萬張GPU的算力支持。

從去年11月30日至今，由ChatGPT引發(fā)的“AI大模型熱”在產(chǎn)業(yè)界依舊持續(xù)著，依照當(dāng)前不斷有企業(yè)、產(chǎn)業(yè)大佬加入進(jìn)來，想必AI大模型的熱度一時(shí)半會(huì)兒是下不去了。

這一背景下，作為算力基礎(chǔ)設(shè)施，高性能服務(wù)器自然也受到了極大的關(guān)注。

就在此前落幕的第十一屆中國(guó)電子信息博覽會(huì)（CITE 2023）上，鎂客網(wǎng)也見到了許多服務(wù)器、數(shù)據(jù)廠商。期間，帶著對(duì)AI大模型盛行下高性能服務(wù)器、數(shù)據(jù)中心的探討，我們也有幸采訪億萬克全國(guó)銷售總監(jiān)柳星先生，聽他娓娓道來。

億萬克“前身”是研祥集團(tuán)服務(wù)器事業(yè)部，后獨(dú)立為集團(tuán)旗下全資子公司，致力于為電信運(yùn)營(yíng)商、互聯(lián)網(wǎng)大廠、政企用戶等群體提供集產(chǎn)品研發(fā)、生產(chǎn)、銷售、部署、運(yùn)維于一體的服務(wù)器及IT系統(tǒng)解決方案，應(yīng)用領(lǐng)域覆蓋云計(jì)算、數(shù)據(jù)中心、邊緣計(jì)算、人工智能、金融、電信、教育、能源等。

眼下，億萬克主打產(chǎn)品包括亞當(dāng)通用機(jī)架式服務(wù)器系列、亞當(dāng)液冷服務(wù)器系列、蛟云存儲(chǔ)設(shè)備系列等。

AI大模型流行，AI異構(gòu)型服務(wù)器需求倍增

不夸張地說，只要是你現(xiàn)在立馬能想到的科技大廠，基本上都在AI大模型這條道上。

回頭來看，這把火先是在國(guó)外科技界被點(diǎn)燃，引得谷歌、微軟、Meta紛紛入局，接著火勢(shì)蔓延到了國(guó)內(nèi)，包括BAT、360在內(nèi)的科技互聯(lián)網(wǎng)大廠像是商量好的，也先后推出了自己的AI大模型產(chǎn)品。

這期間，馬斯克一邊呼吁暫停開發(fā)更強(qiáng)AI模型，一邊“打臉”般購(gòu)入1萬塊GPU、成立AI大模型公司與OpenAI打擂臺(tái)的行為，也為AI大模型的火熱提供了佐證。

而在應(yīng)用層面，從最初的對(duì)話式交互，到后面的圖片交流，再到自動(dòng)駕駛等領(lǐng)域，AI大模型的場(chǎng)景應(yīng)用也是逐漸增多……對(duì)此柳星也表示，ChatGPT太火了，隨著國(guó)內(nèi)應(yīng)用需求的大幅度增加，致力于提供高性能服務(wù)器的億萬克在近半年也收到了許多針對(duì)AI異構(gòu)型服務(wù)器的需求。

面向客戶不斷增長(zhǎng)的高算力需求，億萬克早有應(yīng)對(duì)，比如此次進(jìn)行展示的“亞當(dāng)G952N5”。

柳星介紹稱，這是一款搭載英特爾Purley平臺(tái)可擴(kuò)展系列處理器的4U10GPU卡4電源AI型服務(wù)器，一次最高可支持10張雙寬GPU卡，具有實(shí)時(shí)高速的并行計(jì)算和浮點(diǎn)計(jì)算能力，適用于HPC、大數(shù)據(jù)分析、3D圖形應(yīng)用程序、深度學(xué)習(xí)和科學(xué)計(jì)算等場(chǎng)景。

而站在高性能服務(wù)器角度，基于GPU提供高算力是一回事，如何降低能耗也是一道繞不過去的關(guān)卡。

液冷技術(shù)，高性能服務(wù)器的減碳“新寵”

面向算法訓(xùn)練與應(yīng)用，高性能服務(wù)器能夠提供更高的計(jì)算能力、更快的數(shù)據(jù)處理速度和更低的延遲，但往往需要付出高能耗的代價(jià)，不僅傷“芯”，也易造成高成本，嚴(yán)重的話，服務(wù)器因?yàn)闇囟冗^高而宕機(jī)也是十分有可能的。

尤其是近幾年，隨著“3060雙碳目標(biāo)”的提出，作為能耗大戶的數(shù)據(jù)中心更是成為減碳的重點(diǎn)關(guān)注對(duì)象，具體表現(xiàn)比如PUE值不斷縮緊。

PUE值是評(píng)價(jià)數(shù)據(jù)中心能源效率的指標(biāo)，是數(shù)據(jù)中心消耗的所有能源與IT負(fù)載消耗的能源的比值。PUE值越小，意味著數(shù)據(jù)中心的節(jié)能減排程度越好，相反則能耗比越高。

而依據(jù)最新政策，國(guó)家要求到2025年，全國(guó)新建大型、超大型數(shù)據(jù)中心的PUE值降到1.3以下，這對(duì)于服務(wù)器廠商而言是一個(gè)不小的挑戰(zhàn)。這一背景下，廠商們也紛紛將目光轉(zhuǎn)向了比傳統(tǒng)風(fēng)冷技術(shù)更為高效的液冷技術(shù)。

“整個(gè)數(shù)據(jù)中心有幾千、幾萬臺(tái)服務(wù)器，整體能耗比較高，傳統(tǒng)風(fēng)冷式服務(wù)器會(huì)導(dǎo)致數(shù)據(jù)中心PUE值會(huì)很高，不符合要求，現(xiàn)在包括老舊數(shù)據(jù)中心的整改，以及新建數(shù)據(jù)中心，都可以使用我們的液冷服務(wù)器，讓PUE值下降到1.25以下。”柳星表示。

目前億萬克液冷服務(wù)器業(yè)務(wù)劃分出兩條線，一條是冷板式液冷服務(wù)器LCP系列，也在此屆電博會(huì)做了首次公開亮相；另一條是浸沒式液冷服務(wù)器IC系列。

其中，對(duì)比億萬克冷板式液冷服務(wù)器和風(fēng)冷式服務(wù)器，前者能夠?qū)UE值降至1.25以下，后者則維持在1.6左右。雖然數(shù)值上只有0.35的差距，但放在服務(wù)器功耗上卻呈現(xiàn)出不小的差距。

最后

前面也提到，億萬克依托于整個(gè)研祥集團(tuán)，而后者是中國(guó)最大的特種計(jì)算機(jī)研究、開發(fā)、制造、銷售和系統(tǒng)整合于一體的高科技企業(yè)，在對(duì)供應(yīng)鏈的管理和產(chǎn)品質(zhì)量的把控上已經(jīng)形成一套嚴(yán)苛的標(biāo)準(zhǔn)。

如今這一嚴(yán)苛標(biāo)準(zhǔn)也融入了億萬克的基因中。與此同時(shí)，“從產(chǎn)品研發(fā)生產(chǎn)到銷售，再到交付客戶、售后是一整套完整的服務(wù)，且億萬克服務(wù)器包括外觀在內(nèi)都是交由國(guó)外一流知名設(shè)計(jì)團(tuán)隊(duì)獨(dú)家設(shè)計(jì)的，從品質(zhì)，到整體的交付，再到整體供應(yīng)鏈系統(tǒng)，億萬克都可以給到客戶一個(gè)很好的支撐。”柳星表示。

最后，記得關(guān)注微信公眾號(hào)：鎂客網(wǎng)（im2maker），更多干貨在等你！