亚洲av第一网站久章草,又色又爽又黄又硬的视频免费观看,香蕉久久精品日日躁夜夜躁,丝袜+亚洲区,少妇被又大又粗又爽毛片

中信證券:系統(tǒng)級算力有望成為下一代AI算力基礎(chǔ)設(shè)施

時間:2025-06-26 16:15:04 推薦 779

中信證券研報指出,當(dāng)前AI大模型的訓(xùn)練、推理需求持續(xù)旺盛發(fā)展,scalinglaw在后訓(xùn)練、在線推理等方向上持續(xù)演進(jìn)。底層基礎(chǔ)設(shè)施朝著更大集群的方向發(fā)展,單芯片的算力提升在先進(jìn)制程的影響下未來迭代速度料將放緩,而系統(tǒng)級節(jié)點有望通過解決互連、網(wǎng)絡(luò)、內(nèi)存墻等問題成為AI算力發(fā)展的重要方向。從近期算力龍頭企業(yè)系統(tǒng)級產(chǎn)品的發(fā)展趨勢以及過往半導(dǎo)體行業(yè)的并購歷史來看,系統(tǒng)級算力有望成為AI發(fā)展的下一站,國產(chǎn)GPU芯片公司有望通過打造更高資源密度的算力基礎(chǔ)設(shè)施實現(xiàn)對海外產(chǎn)品的追趕和超越。建議關(guān)注:1)英偉達(dá)NVL72等系統(tǒng)級產(chǎn)品出貨情況;2)以華為CloudMatrix384超節(jié)點為代表的國產(chǎn)系統(tǒng)級產(chǎn)品進(jìn)展,建議關(guān)注國內(nèi)產(chǎn)業(yè)鏈相關(guān)公司。

全文如下

計算機|從華為384超節(jié)點看下一代AI系統(tǒng)級算力

大模型架構(gòu)創(chuàng)新以及推理需求的日益增長對底層基礎(chǔ)設(shè)施建設(shè)提出了新的要求,面向未來的AI基礎(chǔ)設(shè)施須具備前瞻性、通用性。當(dāng)前,單芯片算力提升對算力集群能力提升的邊際效應(yīng)在遞減,內(nèi)存通信、片間互連、網(wǎng)絡(luò)通信成為瓶頸。為解決這一問題,技術(shù)角度,產(chǎn)業(yè)邁向Scaleup擴展,通過提升單節(jié)點計算資源密度及高效的網(wǎng)絡(luò)架構(gòu)提升算力利用率。行業(yè)趨勢上,半導(dǎo)體芯片行業(yè)通常以收并購的方式獲取技術(shù)能力及市場拓展,以海外為代表的龍頭公司做出了成功示范。系統(tǒng)級算力有望成為AI基礎(chǔ)設(shè)施的下一站,建議關(guān)注國內(nèi)以華為CloudMatrix384超節(jié)點為代表的產(chǎn)業(yè)發(fā)展趨勢。

▍系統(tǒng)級算力有望成為下一代AI算力基礎(chǔ)設(shè)施。

我們認(rèn)為,底層基礎(chǔ)設(shè)施的通用性就是為了前瞻性地應(yīng)對未來的模型發(fā)展。當(dāng)前AI產(chǎn)業(yè)發(fā)展迅速,Scalinglaw在后訓(xùn)練、在線推理等階段快速發(fā)展。訓(xùn)練端,模型架構(gòu)持續(xù)創(chuàng)新迭代,有望進(jìn)一步強化訓(xùn)練側(cè)scalinglaw的延續(xù),如阿里巴巴Qwen團隊與浙江大學(xué)團隊提出的ParallelScaling、騰訊混元團隊采用Transformer、Mamba混合架構(gòu)訓(xùn)練的TurboS都取得了優(yōu)秀的性能表現(xiàn)。推理端,在MoE專家網(wǎng)絡(luò)架構(gòu)成為主流后,如何通過硬件部署實現(xiàn)更高的吞吐量和更低的延時成為焦點。我們認(rèn)為,采用類似推理集群的形式未來有望成為主流,計算節(jié)點有望通過提升計算密度滿足推理需求。系統(tǒng)級算力料將成為下一代AI算力基礎(chǔ)設(shè)施。

▍系統(tǒng)級算力需要系統(tǒng)級能力。

芯片層面,算力集群中涉及AI加速芯片、CPU芯片、Switch互連芯片、DPU數(shù)據(jù)處理芯片等,受限制于制程,國產(chǎn)AI加速芯片在峰值算力能力領(lǐng)域上相較于海外旗艦產(chǎn)品仍有差距,軟件生態(tài)上亦因產(chǎn)業(yè)發(fā)展時長而相對落后,單芯片能力的競爭并無直接優(yōu)勢?;ミB層面,傳統(tǒng)PCIe與英偉達(dá)NVLink等差距較大,NVLink5.0提供1.8TB/s雙向帶寬,超傳統(tǒng)PCIe方案的十倍,國產(chǎn)芯片采用自研技術(shù)方案助力系統(tǒng)集群發(fā)展。網(wǎng)絡(luò)層面,系統(tǒng)算力采用RDMA技術(shù)實現(xiàn)遠(yuǎn)程內(nèi)存訪問,目前主流技術(shù)方案包括InfiniBand、RoCE等。整機層面,系統(tǒng)級算力并非是上述部件的簡單組裝,而是通過系統(tǒng)設(shè)計、規(guī)劃、測試完成的有機整體,與以往傳統(tǒng)AI服務(wù)器相比更需要垂直融合能力,產(chǎn)業(yè)上下游之間的關(guān)系也將隨著組件之間耦合程度的提升而變得更加緊密。生態(tài)層面,CPU+GPU+互連+網(wǎng)絡(luò)+整機+系統(tǒng)交付成為系統(tǒng)級算力入局門檻,海外巨頭通過收并購的方式已構(gòu)筑起產(chǎn)業(yè)生態(tài)。

▍技術(shù)角度,英偉達(dá)NVL72、華為CloudMatrix384超節(jié)點先行示范。

當(dāng)前,單芯片算力能力的發(fā)展已顯著快于通信領(lǐng)域的發(fā)展速度,通信效率成為集群效率提升的關(guān)鍵因素。構(gòu)建大集群的方式主要兩種:1)Scaleup(縱向擴展),增加單節(jié)點的資源數(shù)量;2)Scaleout(橫向擴展),增加節(jié)點數(shù)量。相較于Scaleout網(wǎng)絡(luò),Scaleup能夠提供更大的帶寬、更低的通信時延,和更大的緩存一致性內(nèi)存空間,因此Scaleup即在單節(jié)點增加資源數(shù)量成為未來發(fā)展的重要方向,如2024年3月英偉達(dá)在2024GTC大會上發(fā)布的NVL72系統(tǒng)、2025年4月華為在華為云生態(tài)大會上發(fā)布的CloudMatrix384超節(jié)點為行業(yè)發(fā)展提供思路。

▍產(chǎn)業(yè)維度,半導(dǎo)體行業(yè)通常以收并購方式進(jìn)行技術(shù)整合與市場拓展。

半導(dǎo)體行業(yè)長坡厚雪,產(chǎn)業(yè)鏈涉及環(huán)節(jié)較多且技術(shù)復(fù)雜,整機資源耦合程度提升,上下游協(xié)作變得愈發(fā)緊密。因此,頭部企業(yè)通常采用投資并購的方式來獲取進(jìn)入市場的機會,同時進(jìn)一步擴展技術(shù)能力以鞏固市場地位。英偉達(dá)通過收購Mellanox,將原有的NVLink(主要用于Scaleup)連接技術(shù),擴展至IB等RDMA網(wǎng)絡(luò)(用于Scaleout),從而為下一代大規(guī)模計算集群做好技術(shù)儲備;AMD通過收購ZTSystems獲取了系統(tǒng)架構(gòu)設(shè)計能力以及數(shù)據(jù)中心解決方案交付經(jīng)驗,EPYCCPU以及InstinctGPU、網(wǎng)絡(luò)、軟件及ZTSystems的集群系統(tǒng)交付能力共同構(gòu)建了AI解決方案的核心。我們總結(jié),在面向未來基礎(chǔ)設(shè)施搭建的領(lǐng)域,底層通用性與技術(shù)前瞻性是至關(guān)重要的,在此基礎(chǔ)上,應(yīng)用的發(fā)展將會隨之帶來回報。

▍風(fēng)險因素:

算力芯片供應(yīng)鏈風(fēng)險;芯片產(chǎn)能供給不足的風(fēng)險;互聯(lián)網(wǎng)大廠資本開支不及預(yù)期的風(fēng)險;相關(guān)產(chǎn)業(yè)政策不及預(yù)期的風(fēng)險;AI應(yīng)用發(fā)展不及預(yù)期的風(fēng)險;芯片技術(shù)迭代不及預(yù)期的風(fēng)險;國產(chǎn)GPU廠商競爭加劇的風(fēng)險等。

▍投資策略:

當(dāng)前AI大模型的訓(xùn)練、推理需求持續(xù)旺盛發(fā)展,scalinglaw在后訓(xùn)練、在線推理等方向上持續(xù)演進(jìn)。底層基礎(chǔ)設(shè)施朝著更大集群的方向發(fā)展,單芯片的算力提升在先進(jìn)制程的影響下未來迭代速度料將放緩,而系統(tǒng)級節(jié)點有望通過解決互連、網(wǎng)絡(luò)、內(nèi)存墻等問題成為AI算力發(fā)展的重要方向。從近期算力龍頭企業(yè)系統(tǒng)級產(chǎn)品的發(fā)展趨勢以及過往半導(dǎo)體行業(yè)的并購歷史來看,系統(tǒng)級算力有望成為AI發(fā)展的下一站,國產(chǎn)GPU芯片公司有望通過打造更高資源密度的算力基礎(chǔ)設(shè)施實現(xiàn)對海外產(chǎn)品的追趕和超越。建議關(guān)注:1)英偉達(dá)NVL72等系統(tǒng)級產(chǎn)品出貨情況;2)以華為CloudMatrix384超節(jié)點為代表的國產(chǎn)系統(tǒng)級產(chǎn)品進(jìn)展,建議關(guān)注國內(nèi)產(chǎn)業(yè)鏈相關(guān)公司。

(文章來源:界面新聞)

來源:東方財富網(wǎng)