3月27日下午消息,異構(gòu)智算產(chǎn)業(yè)生態(tài)聯(lián)盟攜手生態(tài)合作伙伴走進(jìn)燧弘華創(chuàng)慶陽(yáng)綠色智算中心,共同見(jiàn)證了DeepSeek大模型落地新突破,并圍繞異構(gòu)智算、DeepSeek大模型落地?cái)?shù)據(jù)中心、超智融合等話題進(jìn)行分享交流,共同探討了異構(gòu)智算與AI大模型的深度融合。

據(jù)介紹,在燧弘華創(chuàng)慶陽(yáng)綠色智算中心,聯(lián)想問(wèn)天 WA5480 G3服務(wù)器搭載了第四代英特爾®至強(qiáng)®可擴(kuò)展處理器。同時(shí),聯(lián)想搭建了萬(wàn)全異構(gòu)智算平臺(tái)。
聯(lián)想中國(guó)基礎(chǔ)設(shè)施業(yè)務(wù)群戰(zhàn)略總監(jiān)黃山表示,燧弘華創(chuàng)慶陽(yáng)綠色智算中心攜同聯(lián)想萬(wàn)全異構(gòu)智算平臺(tái)突破算力瓶頸,通過(guò)訪存優(yōu)化、顯存優(yōu)化、PCIe 5.0全互聯(lián)架構(gòu)創(chuàng)新以及精選SGLang框架中性能最優(yōu)算子等創(chuàng)新方式,將單機(jī)服務(wù)器運(yùn)行大模型的性能再創(chuàng)新高,3000并發(fā)下總吞吐量超8000 tokens/s,持續(xù)提升DeepSeek滿血版用戶體驗(yàn)。