瀚博半導(dǎo)體于今日在2021世界人工智能大會(huì)期間發(fā)布其首款云端通用AI推理芯片SV100系列及VA1通用推理加速卡。

今年上半年國(guó)家發(fā)布“十四五規(guī)劃”，特別指出要“瞄準(zhǔn)人工智能、量子信息、集成電路等前沿領(lǐng)域。作為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，人工智能相關(guān)技術(shù)和應(yīng)用正呈現(xiàn)快速發(fā)展的趨勢(shì)。

聚焦到人工智能芯片，數(shù)據(jù)顯示，2021年開(kāi)始，云數(shù)據(jù)中心對(duì)于人工智能推理芯片的需求逐漸超越對(duì)于訓(xùn)練芯片的需求，整個(gè)推理市場(chǎng)蓄勢(shì)待發(fā)。而且，隨著模型訓(xùn)練逐漸成熟，AI應(yīng)用逐漸落地，市場(chǎng)差距還會(huì)越來(lái)越大。

在此背景之下，瀚博半導(dǎo)體于今日在2021世界人工智能大會(huì)期間發(fā)布其首款云端通用AI推理芯片SV100系列及VA1通用推理加速卡，可實(shí)現(xiàn)深度學(xué)習(xí)應(yīng)用超高性能、超低延時(shí)的推理性能，可顯著降低數(shù)據(jù)中心與邊緣智能應(yīng)用的部署成本。

云端通用AI推理芯片SV100系列

據(jù)介紹，此次發(fā)布的瀚博SV100系列芯片，單芯片INT8峰值算力超200 TOPS，深度學(xué)習(xí)推理性能指標(biāo)數(shù)倍于現(xiàn)有主流數(shù)據(jù)中心GPU，具有超高吞吐率、超低延時(shí)的特性。

SV100系列芯片支持FP16, BF16和INT8等數(shù)據(jù)格式，并可以實(shí)現(xiàn)眾多主流神經(jīng)網(wǎng)絡(luò)的快速部署及計(jì)算機(jī)視覺(jué)、視頻處理、自然語(yǔ)言處理和搜索推薦等多樣化推理應(yīng)用場(chǎng)景。

同時(shí)集成高達(dá)64路以上H.264/H.265/AVS2的1080p視頻解碼，廣泛適用于云端與邊緣智能應(yīng)用場(chǎng)景，提升客戶(hù)的設(shè)備資產(chǎn)效益、降低運(yùn)營(yíng)成本。

VA1推理加速卡

與此同時(shí)，瀚博同步推出的基于SV100系列芯片的VA1推理加速卡，為單寬半高半長(zhǎng)75瓦PCIe x16卡，支持32GB內(nèi)存和PCIe 4.0高速接口協(xié)議，無(wú)需額外供電，即可適用于所有廠商的人工智能服務(wù)器，實(shí)現(xiàn)數(shù)據(jù)中心高密度高算力部署。

關(guān)于為什么要聚焦于視頻方向，瀚博半導(dǎo)體創(chuàng)始人兼CEO錢(qián)軍表示：“計(jì)算機(jī)視覺(jué)占了AI市場(chǎng)的大半壁的江山，視頻流占整個(gè)數(shù)據(jù)流的70%，對(duì)于視頻提供的龐大數(shù)據(jù)，需要強(qiáng)大的AI算力支持。”

如何判斷AI的性能？可以從LTE三個(gè)方面來(lái)看，分別是指Latency延時(shí)、Throughput吞吐量和Energy Efficiency低功耗。

對(duì)此，錢(qián)軍表示：“瀚博通過(guò)前期核心技術(shù)積累和前瞻性布局，正式發(fā)布我們性能優(yōu)異的SV100系列云端通用AI推理芯片和VA1推理卡，可有效應(yīng)對(duì)低延時(shí)、通用性和視頻處理等方面的行業(yè)痛點(diǎn)，推進(jìn)云端與邊緣的智能應(yīng)用落地。”

據(jù)悉，SV100系列及VA1通用推理加速卡預(yù)計(jì)將于今年四季度量產(chǎn)上市。

關(guān)于瀚博半導(dǎo)體

瀚博半導(dǎo)體2018年12月成立于上海，在北京、深圳和多倫多均有研發(fā)分部。公司核心員工來(lái)自世界頂級(jí)的高科技公司，平均擁有15年以上的相關(guān)芯片與軟件設(shè)計(jì)經(jīng)驗(yàn)。公司目前擁有200人以上的資深團(tuán)隊(duì)，且規(guī)模還在快速增長(zhǎng)中。瀚博半導(dǎo)體致力于成為驅(qū)動(dòng)云邊計(jì)算的算力源泉、中國(guó)芯片設(shè)計(jì)企業(yè)的標(biāo)桿和世界芯片設(shè)計(jì)的領(lǐng)導(dǎo)者之一。

最后，記得關(guān)注微信公眾號(hào)：鎂客網(wǎng)（im2maker），更多干貨在等你！