盡管xAI的11位聯(lián)合創(chuàng)始人此前相繼離開(kāi),但馬斯克并未因此放緩在人工智能領(lǐng)域的布局。他在社交平臺(tái)X上透露,旗下SpaceXAI團(tuán)隊(duì)正依托超級(jí)計(jì)算集群Colossus 2同時(shí)推進(jìn)7個(gè)AI大模型的訓(xùn)練工作,這一消息引發(fā)行業(yè)高度關(guān)注。
這批在研模型涵蓋多個(gè)技術(shù)方向:包括圖像與視頻生成領(lǐng)域的Imagine V2升級(jí)版,兩個(gè)參數(shù)規(guī)模達(dá)1萬(wàn)億的模型變體,兩個(gè)1.5萬(wàn)億參數(shù)的模型變體,以及參數(shù)規(guī)模突破6萬(wàn)億和10萬(wàn)億的兩個(gè)超大型模型。其中后兩個(gè)超大參數(shù)模型的技術(shù)路線(xiàn)尚未明確,業(yè)內(nèi)猜測(cè)6萬(wàn)億參數(shù)版本可能對(duì)應(yīng)即將發(fā)布的Grok 5,而10萬(wàn)億參數(shù)版本或?qū)⒊蔀镚rok 6或全新產(chǎn)品線(xiàn)。
當(dāng)前AI市場(chǎng)競(jìng)爭(zhēng)格局中,萬(wàn)億參數(shù)模型已逐漸成為行業(yè)標(biāo)配。真正引發(fā)技術(shù)界熱議的,是xAI正在攻關(guān)的6萬(wàn)億和10萬(wàn)億參數(shù)模型。以Grok系列為例,現(xiàn)行的4.2版本雖在發(fā)布時(shí)屢創(chuàng)性能紀(jì)錄,但實(shí)際體驗(yàn)仍與頭部企業(yè)的AI產(chǎn)品存在差距。若6萬(wàn)億參數(shù)的Grok 5能如期落地,或?qū)轳R斯克團(tuán)隊(duì)提供追趕行業(yè)領(lǐng)先者的關(guān)鍵契機(jī)。
關(guān)于10萬(wàn)億參數(shù)模型的猜測(cè)更為豐富。考慮到Anthrpoic近期發(fā)布的Mythos模型被傳具備同等規(guī)模參數(shù),盡管官方未證實(shí)具體技術(shù)參數(shù),但其展現(xiàn)出的性能優(yōu)勢(shì)已印證超大參數(shù)模型的技術(shù)潛力。xAI此時(shí)布局相同量級(jí)的模型研發(fā),顯然意在爭(zhēng)奪下一代AI技術(shù)的制高點(diǎn)。
支撐如此龐大研發(fā)規(guī)模的,是今年1月17日剛投入使用的Colossus 2超級(jí)計(jì)算集群。該集群配備20萬(wàn)塊高性能GPU,構(gòu)建起全球首個(gè)GW級(jí)AI算力平臺(tái)。據(jù)英偉達(dá)CEO黃仁勛估算,1GW算力對(duì)應(yīng)的硬件投資約500億美元,這種級(jí)別的資源投入在AI領(lǐng)域極為罕見(jiàn)。更值得關(guān)注的是,該集群將在本月底完成升級(jí),算力將提升至1.5GW,這為訓(xùn)練10萬(wàn)億參數(shù)量級(jí)的模型提供了關(guān)鍵基礎(chǔ)設(shè)施保障。
行業(yè)觀察人士指出,同時(shí)推進(jìn)7個(gè)大模型研發(fā)需要解決技術(shù)協(xié)同、算力分配、數(shù)據(jù)管理等多重挑戰(zhàn)。xAI選擇這種激進(jìn)策略,既顯示出馬斯克對(duì)AI技術(shù)突破的迫切需求,也暴露出當(dāng)前AI競(jìng)賽中"算力即權(quán)力"的殘酷現(xiàn)實(shí)。隨著Colossus 2完成升級(jí),這場(chǎng)參數(shù)規(guī)模軍備競(jìng)賽或?qū)⑦M(jìn)入新的階段。








