遼寧衛(wèi)重起重設(shè)備有限公司
地 址:沈陽市鐵西區(qū)沈遼西路168號(hào)25-27(嘉泰機(jī)電城D區(qū)4排27號(hào))
電 話:024-31813766 024-86009308
傳 真:024 --86009307
聯(lián)系人:朱先生、馮先生
手 機(jī):13613731571、15083107865
郵 箱::[email protected]
網(wǎng) 址:http://glaipu.com
地 址:沈陽市鐵西區(qū)沈遼西路168號(hào)25-27(嘉泰機(jī)電城D區(qū)4排27號(hào))
電 話:024-31813766 024-86009308
傳 真:024 --86009307
聯(lián)系人:朱先生、馮先生
手 機(jī):13613731571、15083107865
郵 箱::[email protected]
網(wǎng) 址:http://glaipu.com
2024年算力發(fā)展九大趨勢(shì)展望
發(fā)布:yBjl3Ec5zta>m# 瀏覽:2248次
1、市場(chǎng)規(guī)模快速增長
ToB/C大模型應(yīng)用加速落地,多模態(tài)大模型快速演進(jìn),進(jìn)一步帶動(dòng)智算產(chǎn)業(yè)強(qiáng)勁發(fā)展。
2023年,ChatGPT等大語言模型已然引發(fā)“搶芯大戰(zhàn)”,AI催生算力需求爆發(fā)增長。2024年,隨大模型加速向垂直行業(yè)和領(lǐng)域滲透、GPTStore等助推AI原生應(yīng)用落地、以及多模態(tài)模型快速發(fā)展,智算市場(chǎng)將繼續(xù)保持高增長態(tài)勢(shì)。海外市場(chǎng),F(xiàn)actSet和彭博預(yù)測(cè)2024年北美三大頭部云商(AWS、微軟和谷歌)的云業(yè)務(wù)營收、云基礎(chǔ)設(shè)施投資增長將達(dá)到22.5%、16.6%,相比2023年均小幅提升,整體較為樂觀。我國市場(chǎng),參照工信部等六部門聯(lián)合印發(fā)的《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》發(fā)展目標(biāo),2023-2025年我國算力規(guī)模復(fù)合增長率為18.5%,2024年新增算力規(guī)模將接近40EFLOPS,算力核心產(chǎn)業(yè)規(guī)模有望突破2.4萬億元。
2、產(chǎn)業(yè)新格局加速形成
AI算力促進(jìn)IDC和云服務(wù)升級(jí),助推“三三一”算力服務(wù)產(chǎn)業(yè)新格局。
2023年,擁有大量GPU資源,專門從事算力建設(shè)到租賃解決方案業(yè)務(wù)的第三方算力租賃商成為算力服務(wù)市場(chǎng)新勢(shì)力并引得資本青睞與關(guān)注。中貝通信、真視通、蓮花健康等算力租賃上市公司的股價(jià)(截至2023年12月27日)均達(dá)到100%甚至200%以上增長。2024年,IDC服務(wù)提供商、云服務(wù)提供商、第三方算力租賃商將成為算力市場(chǎng)的“三大運(yùn)營主體”,瓜分整體算力服務(wù)市場(chǎng),并提供算力租賃、算力+平臺(tái)服務(wù)、算力+平臺(tái)+模型服務(wù)的“三類算力服務(wù)模式”,特別第三方算力租賃模式有望復(fù)現(xiàn)第三方IDC服務(wù)商高速增長路徑,在優(yōu)質(zhì)客戶合作驅(qū)動(dòng)下利用自身渠道和資源整合能力,打造“客戶-資金-AI算力”閉環(huán)擴(kuò)張。同時(shí),算力共享聯(lián)盟模式將逐步顯現(xiàn),如多個(gè)初創(chuàng)公司共同開展GPU算力購買和共享使用,降低算力整體使用成本。產(chǎn)業(yè)市場(chǎng)將形成“三大運(yùn)營主體”、“三類算力服務(wù)模式”以及“一種新型算力共購共享聯(lián)盟”的“三三一”產(chǎn)業(yè)格局。
3、規(guī)?;s化建設(shè)凸顯
大模型量級(jí)突破,驅(qū)動(dòng)智算集群化,E級(jí)以上大型智算中心成主流。
大模型參數(shù)規(guī)模的跨量級(jí)突破,數(shù)據(jù)集倍數(shù)增長,亟需海量算力承載,助推AI服務(wù)器性能的持續(xù)提升,智算布局呈現(xiàn)規(guī)?;?、集群化趨勢(shì)明顯。一是單個(gè)服務(wù)器性能的提升可有效降低服務(wù)器間參數(shù)、數(shù)據(jù)量等傳輸時(shí)延,提升計(jì)算效率,預(yù)計(jì)2024年下半年將推出超越現(xiàn)有H系列的高性能GPU卡。二是依托高性能GPU卡搭建超級(jí)計(jì)算機(jī)(服務(wù)器集群),E級(jí)規(guī)模智算集群將成為主流。根據(jù)賽迪報(bào)告預(yù)測(cè),到2024年年底我國將有5%—8%的企業(yè)大模型參數(shù)從千億級(jí)躍升至萬億級(jí),算力需求增速將達(dá)到320%。谷歌、微軟等相繼推出的大模型參數(shù)量向千億、萬億級(jí)規(guī)模演進(jìn),著力打造面向大模型訓(xùn)練的E級(jí)智算集群。據(jù)公開統(tǒng)計(jì)我國建成的超E級(jí)智算中心僅5家,預(yù)計(jì)2024年超大規(guī)模智能中心占比穩(wěn)步提升。
4、算力布局向縱深拓展
AI大模型向邊緣和終端延伸,智算基礎(chǔ)設(shè)施加速向城市和邊緣滲透。
多模態(tài)大模型和算力底層技術(shù)不斷完善,大模型部署在邊緣側(cè)與移動(dòng)端成必然趨勢(shì),面向城市、邊緣的智算中心布局態(tài)勢(shì)將愈加明顯。一方面AI大模型擴(kuò)張帶來推理算力需求激增,驅(qū)動(dòng)分布式推理算力中心下沉,本地或靠近部署算力可有效緩解成本壓力。另一方面AI大模型逐漸向智能汽車、電腦、手機(jī)等邊緣端下沉,融入終端等智能體,邊緣算力可有效滿足低時(shí)延AI應(yīng)用的快速響應(yīng)要求。繼成都、北京、上海、深圳等城市之后,2024年將有更多城市推出針對(duì)算力高質(zhì)量發(fā)展的政策文件,統(tǒng)籌城市級(jí)和行業(yè)類智算資源需求,提速城市算力基礎(chǔ)設(shè)施升級(jí)。
5、云智和訓(xùn)推一體化
一體化成為智算主流服務(wù)模式,實(shí)現(xiàn)算力、算法和數(shù)據(jù)的高效協(xié)同。
以數(shù)據(jù)為主線,云計(jì)算為基礎(chǔ)的一體化智算服務(wù)將成主流,實(shí)現(xiàn)算力、數(shù)據(jù)和算法的高效協(xié)同,滿足智算應(yīng)用場(chǎng)景的數(shù)據(jù)處理、存儲(chǔ)、傳輸?shù)拳h(huán)節(jié)要求。加大AI與云計(jì)算融合發(fā)展已成頭部云商共識(shí),AWS與英偉達(dá)開展AI基礎(chǔ)設(shè)施、加速庫、基礎(chǔ)模型等全棧合作,旨在將AWS打造成為運(yùn)行GPU的最佳云端環(huán)境;阿里云近日陸續(xù)推出大模型一鍵部署至數(shù)據(jù)庫與函數(shù)計(jì)算等功能,以優(yōu)化云上AI開發(fā)流程;百度將靈境矩陣平臺(tái)升級(jí)為智能體平臺(tái),從關(guān)注模型層轉(zhuǎn)戰(zhàn)到重視生態(tài)、應(yīng)用培育。2024年關(guān)注重點(diǎn)聚焦在“AI+云+數(shù)據(jù)”的全棧式一體化服務(wù),ICT開發(fā)范式與產(chǎn)業(yè)生態(tài)將進(jìn)一步被重構(gòu)。云主機(jī)、存儲(chǔ)、數(shù)據(jù)庫等一系列產(chǎn)品將面向AI全面升級(jí),數(shù)據(jù)處理、訓(xùn)練、微調(diào)、推理等模型使用全流程將傾向于在同一服務(wù)環(huán)境中實(shí)現(xiàn)。
6、泛在算力網(wǎng)絡(luò)加速
算力組網(wǎng)新技術(shù)蓬勃發(fā)展,算力中心互聯(lián)和內(nèi)部網(wǎng)絡(luò)亟需突破帶寬瓶頸。
近日國家發(fā)改委等五部門聯(lián)合印發(fā)《深入實(shí)施“東數(shù)西算”工程加快構(gòu)建全國一體化算力網(wǎng)的實(shí)施意見》,明確打造層級(jí)化網(wǎng)絡(luò)時(shí)延圈,滿足差異化城市-區(qū)域-國家的多級(jí)算力服務(wù)體系,為算力組網(wǎng)提供了指導(dǎo)。2024年,算力中心互聯(lián)組網(wǎng)方面,隨著新一代高性能芯片的發(fā)布,算力互聯(lián)持續(xù)催生800G及1.6T需求,遠(yuǎn)距RDMA、百P級(jí)全光互聯(lián)、新型光纖等關(guān)鍵技術(shù)將進(jìn)一步突破,算力互聯(lián)的低時(shí)延、確定性保障持續(xù)改善。算力中心內(nèi)部組網(wǎng)方面,無阻塞、高吞吐量是承接大模型訓(xùn)練的核心訴求,將催生RoCEv2相關(guān)算法更加成熟。
7、公共算力統(tǒng)一調(diào)度
算力普惠服務(wù)持續(xù)突破,區(qū)域級(jí)、城市級(jí)服務(wù)平臺(tái)初現(xiàn)。
以政府、運(yùn)營商、云商等為運(yùn)營主體的算力一體化調(diào)度平臺(tái)、算力互聯(lián)互通平臺(tái)正在建設(shè)與試點(diǎn)運(yùn)營,支撐算、網(wǎng)、云融合調(diào)度與一體化發(fā)展,實(shí)現(xiàn)從“任務(wù)找算力”到“算力適配任務(wù)”的轉(zhuǎn)變,有效解決算力資源分散、主體多、供需匹配失衡和使用成本高等問題。2024年公共算力統(tǒng)一調(diào)度服務(wù)將呈現(xiàn)新的變化,一是依托IXP的公共算力平臺(tái)將成為主要形態(tài),附加算力調(diào)度、供需對(duì)接等將加速試點(diǎn)應(yīng)用;另一方面圍繞樞紐節(jié)點(diǎn)的算力生態(tài)聚集效應(yīng)進(jìn)一步加強(qiáng),區(qū)域級(jí)、城市級(jí)等公共算力服務(wù)平臺(tái)初步顯現(xiàn),并形成具有行業(yè)影響力的聯(lián)合運(yùn)營體。
8、多元化和國產(chǎn)化提速
芯片類型、架構(gòu)和供給呈多元化趨勢(shì),國產(chǎn)芯片自主生態(tài)加快建設(shè)。
新技術(shù)廣泛應(yīng)用與全球算力短缺的背景下,芯片類型、架構(gòu)和提供商方面均呈現(xiàn)多元化趨勢(shì),芯片自主可控能力將進(jìn)一步提升。芯片類型方面,5G、人工智能、自動(dòng)駕駛等新興技術(shù)產(chǎn)業(yè)化加速,產(chǎn)業(yè)及政策關(guān)注從以CPU為主,向高性能計(jì)算芯片、存儲(chǔ)芯片等拓展;芯片架構(gòu)方面,RISC-V以其優(yōu)秀的靈活性及擴(kuò)展性,突破以x86與ARM架構(gòu)主導(dǎo)的產(chǎn)業(yè)格局,業(yè)界已成功探索RISC-V在AI領(lǐng)域應(yīng)用;芯片廠商方面,主流云商均著手自研芯片,通過軟硬協(xié)同制衡英特爾、英偉達(dá)等壟斷,華為、中芯國際、長鑫等多家國內(nèi)廠商近期均有突破。2024年關(guān)注重點(diǎn)聚焦在國產(chǎn)化芯片的生態(tài)體系建設(shè),包括芯片設(shè)計(jì)、制造、封裝等全流程及相關(guān)軟件、系統(tǒng)、框架等關(guān)鍵環(huán)節(jié)。
9、傳統(tǒng)DC向AIDC演進(jìn)
AI算力引領(lǐng)數(shù)據(jù)中心加快綠色化、模塊化和運(yùn)維智能化發(fā)展。
數(shù)據(jù)中心正在向智算中心快速演進(jìn),液冷制冷引入、模塊化建設(shè)、智能化運(yùn)維等將顯著上升。一是液冷制冷應(yīng)用將從局部試點(diǎn)狀態(tài)逐步轉(zhuǎn)向爬坡期,單機(jī)柜功率密度達(dá)到20KW時(shí)液冷與風(fēng)冷投資成本已基本持平,2024年液冷應(yīng)用將加快普及,2025年國內(nèi)運(yùn)營商50%以上數(shù)據(jù)中心項(xiàng)目將覆蓋。二是智算中心靈活適配、快速交付等工程實(shí)施能力增強(qiáng),圍繞制冷、供電、智能化系統(tǒng)的模塊化設(shè)計(jì)、標(biāo)準(zhǔn)化封裝,產(chǎn)業(yè)聯(lián)合創(chuàng)新和系統(tǒng)解決方案將更加豐富。三是數(shù)據(jù)中心智能化運(yùn)維水平有望上新臺(tái)階,特別是運(yùn)用AI等技術(shù)手段,充分發(fā)揮電源空調(diào)設(shè)備自動(dòng)化、智能化優(yōu)勢(shì),實(shí)現(xiàn)運(yùn)行能耗的精準(zhǔn)管控和智慧運(yùn)營。
來源:天翼智庫