隨著人工智能技術(shù)進(jìn)入高速發(fā)展期，社會(huì)對(duì)智能算力的需求結(jié)構(gòu)正發(fā)生深刻轉(zhuǎn)變。在訓(xùn)練階段算力需求增速趨緩的同時(shí)，面向千行百業(yè)的推理算力需求呈現(xiàn)爆發(fā)式增長(zhǎng)。然而，國(guó)產(chǎn)算力生態(tài)長(zhǎng)期面臨"芯片孤島"困境——不同廠商生產(chǎn)的異構(gòu)芯片因缺乏統(tǒng)一調(diào)度標(biāo)準(zhǔn)，難以形成協(xié)同效應(yīng)，導(dǎo)致算力資源閑置與行業(yè)需求激增的矛盾日益突出。

上海人工智能實(shí)驗(yàn)室近日宣布突破這一技術(shù)壁壘，其自主研發(fā)的DeepLink混合推理框架成功實(shí)現(xiàn)多元異構(gòu)芯片的深度協(xié)同。這項(xiàng)創(chuàng)新技術(shù)通過(guò)構(gòu)建智能調(diào)度系統(tǒng)，使不同架構(gòu)的國(guó)產(chǎn)芯片首次在推理場(chǎng)景中實(shí)現(xiàn)"分工協(xié)作"，標(biāo)志著我國(guó)在自主算力體系建設(shè)領(lǐng)域取得重大進(jìn)展。實(shí)驗(yàn)室系統(tǒng)平臺(tái)中心負(fù)責(zé)人王輝比喻稱："這相當(dāng)于為AI推理組建了一支全明星球隊(duì)，讓擅長(zhǎng)進(jìn)攻的芯片負(fù)責(zé)突破，讓精于組織的芯片掌控節(jié)奏。"

技術(shù)團(tuán)隊(duì)針對(duì)AI推理的特殊需求，創(chuàng)新性地提出預(yù)填充-解碼分離架構(gòu)（PD分離）。在千卡規(guī)模的算力集群測(cè)試中，該方案使首字響應(yīng)時(shí)間縮短34.5%，整體推理吞吐量提升32%。這意味著用戶與AI交互時(shí)，系統(tǒng)反饋速度提升近三分之一，持續(xù)對(duì)話能力也獲得顯著增強(qiáng)。實(shí)驗(yàn)室披露的數(shù)據(jù)顯示，通過(guò)精準(zhǔn)的任務(wù)分配，不同芯片的算力特長(zhǎng)得到充分發(fā)揮，集群整體效能實(shí)現(xiàn)質(zhì)的飛躍。

支撐這項(xiàng)突破的是三大核心技術(shù)組件：策略求解器DLSolver如同"人才測(cè)評(píng)系統(tǒng)"，可精準(zhǔn)評(píng)估每塊芯片的性能特征；智能路由系統(tǒng)DLRouter扮演"戰(zhàn)術(shù)指揮官"角色，實(shí)時(shí)優(yōu)化任務(wù)分配路徑；異構(gòu)通信庫(kù)DLSlime則構(gòu)建起芯片間的"高速通道"，確保數(shù)據(jù)傳輸效率。這三項(xiàng)技術(shù)共同構(gòu)成智能調(diào)度中樞，使異構(gòu)芯片集群的協(xié)作流暢度達(dá)到新高度。

在產(chǎn)業(yè)應(yīng)用層面，該方案已完成與昇騰、沐曦等8個(gè)主流國(guó)產(chǎn)芯片品牌的適配，平均推理性能提升超20%。這意味著在保持現(xiàn)有算力投入的情況下，用戶可獲得相當(dāng)于降低20%成本的等效算力提升。目前，多個(gè)省級(jí)算力中心已啟動(dòng)技術(shù)遷移工作，預(yù)計(jì)將激活數(shù)萬(wàn)PFLOPS的閑置算力資源，為智能制造、智慧醫(yī)療等領(lǐng)域提供強(qiáng)有力支撐。

這項(xiàng)突破與實(shí)驗(yàn)室去年發(fā)布的混合訓(xùn)練框架形成完整技術(shù)閉環(huán)，構(gòu)建起覆蓋訓(xùn)練-推理全流程的國(guó)產(chǎn)算力賦能體系。通過(guò)降低對(duì)特定硬件的依賴度，該方案為構(gòu)建安全可控的算力基礎(chǔ)設(shè)施提供了新范式。技術(shù)專家指出，隨著更多國(guó)產(chǎn)芯片納入適配范圍，我國(guó)AI產(chǎn)業(yè)將形成"多芯協(xié)同"的新生態(tài)，為"人工智能+"戰(zhàn)略的深度實(shí)施奠定堅(jiān)實(shí)基礎(chǔ)。