英偉達(dá)近日正式推出其史上最強(qiáng)大的開源權(quán)重AI模型——Nemotron 3 Super，這一舉措為人工智能領(lǐng)域注入新的活力。開源權(quán)重模型的核心在于將決定模型行為的關(guān)鍵參數(shù)向公眾開放，開發(fā)者可自由下載并在本地設(shè)備上運(yùn)行或優(yōu)化，與GPT-4等閉源模型形成鮮明對(duì)比。

該模型擁有1200億參數(shù)，采用混合專家（MoE）架構(gòu)設(shè)計(jì)，推理時(shí)僅激活120億參數(shù)，在保證性能的同時(shí)顯著降低計(jì)算成本。其專為大規(guī)模復(fù)雜智能體系統(tǒng)打造，結(jié)合先進(jìn)的推理能力，可支持自主智能體高精度完成任務(wù)。目前，Perplexity、Palantir和西門子等科技巨頭已將其應(yīng)用于搜索、軟件開發(fā)、電信及半導(dǎo)體設(shè)計(jì)等核心業(yè)務(wù)場(chǎng)景。

隨著企業(yè)AI應(yīng)用從單一聊天機(jī)器人向多智能體協(xié)作轉(zhuǎn)型，行業(yè)面臨兩大挑戰(zhàn)：多智能體交互產(chǎn)生的Token量激增導(dǎo)致成本飆升，以及復(fù)雜推理流程引發(fā)的系統(tǒng)遲緩。數(shù)據(jù)顯示，多智能體交互可能使Token量增加15倍，同時(shí)每步推理需求進(jìn)一步推高計(jì)算開銷。Nemotron 3 Super通過配備100萬(wàn)Token的超大上下文窗口，使智能體能夠完整保留工作流狀態(tài)，有效避免目標(biāo)偏移，并大幅降低多步推理成本。

在技術(shù)架構(gòu)層面，該模型通過混合專家架構(gòu)將吞吐量提升至前代的5倍，準(zhǔn)確率實(shí)現(xiàn)翻倍增長(zhǎng)。其創(chuàng)新性的Mamba層設(shè)計(jì)使內(nèi)存和計(jì)算效率提高4倍，而Transformer層則專注于高級(jí)推理任務(wù)。更引人注目的是"潛在MoE"技術(shù)，該技術(shù)允許以單個(gè)專家的計(jì)算成本激活四個(gè)專家，配合多Token預(yù)測(cè)功能，使推理速度提升3倍。在英偉達(dá)Blackwell平臺(tái)上，該模型采用NVFP4精度運(yùn)行，相較Hopper架構(gòu)的FP8，內(nèi)存需求降低的同時(shí)推理速度提升4倍。

英偉達(dá)對(duì)模型開放策略采取前所未有的力度，不僅通過寬松許可證開源模型權(quán)重，更公開完整訓(xùn)練方法，包括超10萬(wàn)億Token的數(shù)據(jù)集構(gòu)建方案和評(píng)估指標(biāo)。這種透明度使開發(fā)者能夠直接加載完整代碼庫(kù)進(jìn)行端到端調(diào)試，或快速處理數(shù)千頁(yè)財(cái)務(wù)報(bào)告等超長(zhǎng)文本。實(shí)際應(yīng)用中，某金融企業(yè)利用該模型在30秒內(nèi)完成對(duì)2000頁(yè)年報(bào)的深度分析，效率較傳統(tǒng)方法提升20倍。

開發(fā)者可通過Hugging Face平臺(tái)及谷歌云、甲骨文等云服務(wù)商獲取模型，AWS和Azure服務(wù)即將上線。為簡(jiǎn)化部署流程，英偉達(dá)將其封裝為NVIDIA NIM微服務(wù)，支持在本地?cái)?shù)據(jù)中心和云端無縫遷移。某軟件開發(fā)團(tuán)隊(duì)測(cè)試顯示，基于該微服務(wù)的智能體協(xié)作系統(tǒng)，在代碼生成任務(wù)中較前代模型減少67%的推理時(shí)間，同時(shí)保持92%的準(zhǔn)確率。