0
| 本文作者： 楊依婷 | 2025-12-30 10:04 |
當(dāng)大模型進(jìn)入十萬(wàn)億參數(shù)、長(zhǎng)序列、稀疏化和非規(guī)則結(jié)構(gòu)并行發(fā)展的階段，AI算力基礎(chǔ)設(shè)施正在發(fā)生一次根本性變化：從傳統(tǒng)服務(wù)器集群，演進(jìn)為以高速互聯(lián)為核心的超節(jié)點(diǎn)架構(gòu)。
2025年12月25日，昇思人工智能框架峰會(huì)在杭州召開(kāi)。大會(huì)以“昇思MindSpore為超節(jié)點(diǎn)而生的AI框架”為主題，來(lái)自產(chǎn)業(yè)界、學(xué)術(shù)界和開(kāi)源社區(qū)的多位嘉賓，從不同角度給出了一個(gè)共同判斷：AI基礎(chǔ)設(shè)施已經(jīng)進(jìn)入超節(jié)點(diǎn)時(shí)代，而AI框架正站在范式切換的臨界點(diǎn)上。
超節(jié)點(diǎn)不再只是多臺(tái)服務(wù)器的簡(jiǎn)單堆疊，而是通過(guò)高速互聯(lián)，在邏輯層面“像一臺(tái)機(jī)器一樣學(xué)習(xí)、思考和推理”，具備資源池化、對(duì)等架構(gòu)與網(wǎng)絡(luò)拓?fù)浞謱佣鄻拥奶卣鳌?/p>
昇思MindSpore開(kāi)源社區(qū)技術(shù)委員會(huì)主席金雪鋒在演講中指出，大模型的演進(jìn)正在同時(shí)帶來(lái)三重挑戰(zhàn)：
一是模型規(guī)模持續(xù)增長(zhǎng)，片上內(nèi)存壓力急劇上升；
二是模型結(jié)構(gòu)從單一語(yǔ)言模型走向全模態(tài)，子模型組合更加復(fù)雜、不規(guī)則；
三是訓(xùn)推范式趨于異構(gòu)，訓(xùn)練、推理與Agent運(yùn)行需要協(xié)同編排。
金雪鋒說(shuō)，正是這些變化，推動(dòng)AI基礎(chǔ)設(shè)施從“服務(wù)器集群時(shí)代”邁入“超節(jié)點(diǎn)時(shí)代”，AI框架將迎來(lái)新的架構(gòu)范式。
昇思MindSpore給出的答案是，把超節(jié)點(diǎn)當(dāng)作一臺(tái)“超級(jí)計(jì)算機(jī)”，在框架層面統(tǒng)一編程和調(diào)度，而不是讓開(kāi)發(fā)者直接面對(duì)復(fù)雜的集群拓?fù)浜筒⑿屑?xì)節(jié)。
這一判斷，也成為昇思MindSpore提出“為超節(jié)點(diǎn)而生”的核心邏輯起點(diǎn)。
“很多人聽(tīng)過(guò)超節(jié)點(diǎn)，但并不真正理解超節(jié)點(diǎn)。”
在峰會(huì)之后的媒體溝通會(huì)上，現(xiàn)任昇思MindSpore開(kāi)源社區(qū)理事長(zhǎng)王紫東強(qiáng)調(diào)這一點(diǎn)。
在他的解釋中，超節(jié)點(diǎn)并不是簡(jiǎn)單地把更多NPU卡堆在一起，而是通過(guò)超高帶寬互聯(lián)，讓大量計(jì)算單元在邏輯層面形成一個(gè)高度耦合的整體。卡與卡之間不再是“慢速通信的鄰居”，而是隨時(shí)可調(diào)度的數(shù)據(jù)通路。
這一變化，直接服務(wù)于一個(gè)現(xiàn)實(shí)需求：模型太大了，大到必須極致并行。
當(dāng)模型被切分到數(shù)百、數(shù)千張卡上時(shí)，真正的瓶頸已經(jīng)不再是算力本身，而是：
? 數(shù)據(jù)什么時(shí)候該在哪一張卡上
? 狀態(tài)何時(shí)遷移
? 通信與計(jì)算如何重疊
? 并行策略如何隨模型結(jié)構(gòu)變化而調(diào)整
“硬件的性能上限提高了，但如果軟件跟不上，性能是用不出來(lái)的。”王紫東直言，超節(jié)點(diǎn)越強(qiáng)，對(duì)AI框架的要求反而越高。
昇思MindSpore提出了一個(gè)清晰而激進(jìn)的定位——
把復(fù)雜留給自己，把簡(jiǎn)單留給開(kāi)發(fā)者。
在傳統(tǒng)集群時(shí)代，開(kāi)發(fā)者往往需要手動(dòng)理解并行策略、通信模式和硬件拓?fù)洌诔?jié)點(diǎn)時(shí)代，這種模式已經(jīng)不可持續(xù)。集群拓?fù)湓絹?lái)越復(fù)雜，節(jié)點(diǎn)規(guī)模越來(lái)越大，如果復(fù)雜性繼續(xù)外溢到開(kāi)發(fā)層，開(kāi)發(fā)效率和穩(wěn)定性將迅速崩塌。
MindSpore的選擇，是讓AI框架本身承擔(dān)更多系統(tǒng)級(jí)責(zé)任，其目標(biāo)，是讓開(kāi)發(fā)者在超節(jié)點(diǎn)復(fù)雜算力環(huán)境中仍能保持“類(lèi)單機(jī)”的開(kāi)發(fā)體驗(yàn)，而HyperParallel架構(gòu)正是實(shí)現(xiàn)這一目標(biāo)的關(guān)鍵。
金雪鋒在峰會(huì)上系統(tǒng)拆解了HyperParallel的三項(xiàng)關(guān)鍵能力。
首先是 HyperOffload。
隨著模型規(guī)模持續(xù)擴(kuò)大，片上內(nèi)存容量成為制約訓(xùn)練和推理的重要瓶頸。HyperOffload通過(guò)實(shí)現(xiàn)計(jì)算與狀態(tài)分離，利用超節(jié)點(diǎn)的池化存儲(chǔ)能力，將模型狀態(tài)卸載到遠(yuǎn)端內(nèi)存中，從而釋放片上資源。在實(shí)際應(yīng)用中，MindSpore給出的數(shù)據(jù)是：訓(xùn)練性能提升20%以上，推理支持的序列長(zhǎng)度提升70%以上，這不是簡(jiǎn)單的“搬數(shù)據(jù)”，而是對(duì)計(jì)算時(shí)序的精確調(diào)度。
其次是 HyperMPMD。
SPMD曾經(jīng)是AI并行的黃金標(biāo)準(zhǔn)，但在多模態(tài)、強(qiáng)化學(xué)習(xí)、Agent 等場(chǎng)景下，它開(kāi)始顯得僵硬。HyperMPMD推動(dòng)并行從 “所有節(jié)點(diǎn)做同一件事”，走向 “不同節(jié)點(diǎn)做不同任務(wù)”，這種 MPMD 模式，充分利用了超節(jié)點(diǎn)對(duì)等互聯(lián)的優(yōu)勢(shì)，讓通算并發(fā)成為常態(tài)，在相關(guān)場(chǎng)景中，算力利用率可提升 15% 以上。
第三是 HyperShard。
在傳統(tǒng)命令式并行編程中，算法、并行策略與集群架構(gòu)高度耦合，新模型一旦出現(xiàn)，往往需要對(duì)并行方案進(jìn)行大規(guī)模重構(gòu)。HyperShard引入聲明式并行編程方式，將算法與并行策略解耦，同時(shí)屏蔽底層超節(jié)點(diǎn)網(wǎng)絡(luò)拓?fù)涞膹?fù)雜性。金雪鋒表示，在這一模式下，新算法的并行化改造時(shí)間可以壓縮到1天以?xún)?nèi)，并行策略調(diào)優(yōu)從“天級(jí)”縮短至“小時(shí)級(jí)”。
從HyperOffload到HyperMPMD，再到HyperShard，昇思MindSpore的目標(biāo)并非單點(diǎn)性能提升，而是讓超節(jié)點(diǎn)的復(fù)雜性由框架消化，而不是由開(kāi)發(fā)者承擔(dān)。
MindSpore為什么“突然變好用了”？
現(xiàn)任昇思MindSpore開(kāi)源社區(qū)理事長(zhǎng)王紫東并沒(méi)有從性能參數(shù)或功能列表切入，而是給出了一個(gè)并不“市場(chǎng)化”的判斷標(biāo)準(zhǔn)——社區(qū)Issue的自閉環(huán)率。
在他看來(lái)，一個(gè)健康的AI框架社區(qū)，并不是依賴(lài)官方不斷“救火”，而是開(kāi)發(fā)者之間能夠圍繞問(wèn)題展開(kāi)討論，自主定位原因、提交修復(fù)，并通過(guò)PR形成持續(xù)正反饋。“問(wèn)題能不能在社區(qū)內(nèi)部被解決，往往比解決得有多快更重要。”王紫東說(shuō)。
也正是在這一意義上，他將MindSpore五年來(lái)最重要的成果，歸結(jié)為兩個(gè)字：社區(qū)。
華為于2020年3月28日正式開(kāi)源昇思MindSpore。五年來(lái)，這一社區(qū)逐步形成規(guī)模效應(yīng)：覆蓋全球156個(gè)國(guó)家和地區(qū)，累計(jì)下載量超過(guò)1300萬(wàn)次，代碼合入量超過(guò)12萬(wàn)次，核心貢獻(xiàn)開(kāi)發(fā)者超過(guò)5.2萬(wàn)人，并聯(lián)合2000多家社區(qū)伙伴，孵化出3100多個(gè)行業(yè)應(yīng)用。
這些數(shù)字本身并不新鮮，但它們背后所指向的，是一條已經(jīng)被反復(fù)驗(yàn)證的路徑——自主AI框架并非封閉體系，而可以通過(guò)開(kāi)放協(xié)作，形成持續(xù)演進(jìn)的技術(shù)能力。
時(shí)任昇思MindSpore開(kāi)源社區(qū)理事長(zhǎng)丁誠(chéng)在峰會(huì)上表示，昇思始終堅(jiān)持開(kāi)放治理，踐行“共建、共治、共享”的社區(qū)理念。一方面持續(xù)推進(jìn)框架技術(shù)演進(jìn)，另一方面也通過(guò)課程、競(jìng)賽和工程實(shí)踐，支持AI人才從入門(mén)到深度參與開(kāi)源生態(tài)，逐步成長(zhǎng)為產(chǎn)業(yè)中的中堅(jiān)力量。
當(dāng)這種社區(qū)能力與超節(jié)點(diǎn)架構(gòu)結(jié)合時(shí)，其價(jià)值開(kāi)始在真實(shí)工程場(chǎng)景中顯現(xiàn)。
中國(guó)工程院院士、中國(guó)商飛首席科學(xué)家吳光輝在演講中介紹，中國(guó)商飛上海飛機(jī)設(shè)計(jì)研究院基于昇思MindSpore框架，推出了民機(jī)超臨界翼型氣動(dòng)設(shè)計(jì)智能體“御風(fēng)·智翼”，構(gòu)建了基于工程經(jīng)驗(yàn)的超臨界翼型智能一站式解決方案。
吳光輝指出，大飛機(jī)是“工業(yè)皇冠上的明珠”，而飛機(jī)氣動(dòng)設(shè)計(jì)直接決定民用飛機(jī)的關(guān)鍵性能，通過(guò)將AI框架與工程經(jīng)驗(yàn)深度結(jié)合，相關(guān)設(shè)計(jì)研發(fā)正在向更加智能化、一體化的方向演進(jìn)。這一實(shí)踐，也成為昇思MindSpore在復(fù)雜工程領(lǐng)域落地的一個(gè)縮影。
從服務(wù)器集群到超節(jié)點(diǎn)，從單一模型訓(xùn)練到多任務(wù)并行運(yùn)行，AI 算力形態(tài)正在發(fā)生根本性變化。在這條變化曲線上，AI框架的角色也隨之轉(zhuǎn)變——它不再只是“讓模型跑起來(lái)”的工具，而正在演變?yōu)檫B接算力、模型與應(yīng)用的組織者。
昇思MindSpore給出的選擇，是將超節(jié)點(diǎn)帶來(lái)的復(fù)雜性盡可能收斂到框架內(nèi)部，讓開(kāi)發(fā)者不必直接面對(duì)集群拓?fù)渑c并行細(xì)節(jié)，也不必在模型結(jié)構(gòu)變化時(shí)反復(fù)推倒重來(lái)。
這種選擇并不輕松。它意味著更重的系統(tǒng)工程投入、更長(zhǎng)周期的技術(shù)積累，也意味著必須依托一個(gè)真實(shí)活躍的開(kāi)源社區(qū)，在實(shí)踐中不斷校正方向。
但在超節(jié)點(diǎn)逐漸成為主流算力形態(tài)、Agent 與多任務(wù)運(yùn)行走向常態(tài)的背景下，AI 框架是否具備“消化復(fù)雜性”的能力，正在成為新的分水嶺。
或許正是在這個(gè)意義上，昇思 MindSpore 圍繞超節(jié)點(diǎn)與開(kāi)源展開(kāi)的探索，并不是一次孤立的技術(shù)發(fā)布，而是一種關(guān)于AI框架如何參與下一輪算力演進(jìn)的現(xiàn)實(shí)回答。
雷峰網(wǎng)（雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))）
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
