AI正在從“生成信息”走向“執(zhí)行任務(wù)”，以編碼代理為代表的低延遲高吞吐推理場景，正在開啟AI基礎(chǔ)設(shè)施商業(yè)化的下一個(gè)重要階段。在供給側(cè)，電力，芯片與數(shù)據(jù)中心建設(shè)幾乎都缺乏冗余，緊平衡或?qū)⒊蔀楦L期的行業(yè)底色。

在GTC 2026主題演講結(jié)束后，英偉達(dá)CEO黃仁勛接受了Stratechery創(chuàng)始人Ben Thompson的專訪，就AI推理經(jīng)濟(jì)、CPU戰(zhàn)略、收購Groq的邏輯以及供應(yīng)鏈緊張等核心議題發(fā)表了系統(tǒng)性看法。

黃仁勛在專訪中指出，AI在過去一年跨越了一個(gè)關(guān)鍵門檻——推理能力的提升使模型首次開始產(chǎn)生真實(shí)的經(jīng)濟(jì)價(jià)值，而編程代理的爆發(fā)則是這一轉(zhuǎn)變最清晰的體現(xiàn)。英偉達(dá)正式將超高速、低延遲推理納入自身產(chǎn)品版圖。

在供應(yīng)層面，黃仁勛直言“幾乎所有環(huán)節(jié)都很緊”，無論是電力還是芯片供應(yīng)都難以輕易翻倍。英偉達(dá)雖稱其供應(yīng)鏈已為“今年和明年”做了規(guī)劃，但他更希望“土地，電力和機(jī)房”能更快落地，這將直接影響算力擴(kuò)張的節(jié)奏與資本開支兌現(xiàn)路徑。

推理經(jīng)濟(jì)：低延遲成為下一個(gè)付費(fèi)引擎

黃仁勛將過去一年AI發(fā)展的核心突破歸結(jié)為"推理"能力的成熟。他表示，生成式AI早期因幻覺問題難以商業(yè)化，而推理能力的引入使模型得以通過反思、檢索與搜索實(shí)現(xiàn)"落地"，進(jìn)而從提供信息躍升為真正完成任務(wù)。

"搜索是一項(xiàng)沒有人付費(fèi)的服務(wù)，原因在于獲取信息的門檻不足以讓人掏錢。"黃仁勛說，"我們現(xiàn)在已經(jīng)跨越了那個(gè)門檻——AI不僅能與人交談，還能為人做事。"

編程是他列舉的最典型案例。他指出，代碼生成并非普通語言模態(tài)，需要模型對代碼塊進(jìn)行整體反思、驗(yàn)證執(zhí)行結(jié)果，這一能力的成熟使工程師得以將精力從逐行寫代碼轉(zhuǎn)向架構(gòu)與規(guī)格設(shè)計(jì)。

他透露，英偉達(dá)內(nèi)部軟件工程師已100%使用編程代理，"很多人已經(jīng)有一段時(shí)間沒有親手寫過一行代碼了，但他們的生產(chǎn)力極高"。

正是基于這一判斷，英偉達(dá)決定將低延遲推理能力納入產(chǎn)品線。黃仁勛解釋，現(xiàn)有GPU系統(tǒng)在最大化吞吐量與最大化智能token質(zhì)量之間存在內(nèi)在張力，而對于高價(jià)值編程代理用戶而言，他們愿意為token生成速度提升10倍支付溢價(jià)。

"如果Anthropic推出一個(gè)讓編程速度提升10倍的Claude Code服務(wù)層，我會(huì)付費(fèi)，毫無疑問。我是在為自己構(gòu)建這個(gè)產(chǎn)品。"

收購Groq：解構(gòu)推理流水線的戰(zhàn)略布局

英偉達(dá)收購Groq的決定，在黃仁勛看來并非突發(fā)之舉，而是其在推理基礎(chǔ)設(shè)施領(lǐng)域多年布局的自然延伸。

他表示，英偉達(dá)在一年前發(fā)布Dynamo推理調(diào)度框架時(shí)，就已著手思考如何在異構(gòu)基礎(chǔ)設(shè)施上更細(xì)粒度地拆解推理流程。與Groq的合作早于收購公告約六個(gè)月啟動(dòng)。此次交易的核心是獲取Groq團(tuán)隊(duì)與技術(shù)授權(quán)，而非其云服務(wù)業(yè)務(wù)。

在技術(shù)層面，英偉達(dá)將把推理流水線拆解延伸至解碼階段內(nèi)部，由Vera Rubin GPU處理高FLOP的注意力計(jì)算，由Groq的LPU架構(gòu)承擔(dān)需要極高token速率與極低延遲的部分。計(jì)劃于今年內(nèi)推出相關(guān)產(chǎn)品。

他說道：

"但如果你的業(yè)務(wù)類似Anthropic或OpenAI，Codex正在產(chǎn)生真實(shí)的經(jīng)濟(jì)價(jià)值，而你希望生成更多token，那加入這個(gè)加速器就能顯著提升收入。"

他同時(shí)承認(rèn)，這一方案并非適合所有客戶。對于以免費(fèi)用戶為主、付費(fèi)轉(zhuǎn)化率尚低的平臺而言，引入Groq會(huì)增加成本與復(fù)雜度，并不劃算。

黃仁勛將Groq與此前收購Mellanox相提并論——兩者都代表了英偉達(dá)將外部專用架構(gòu)納入自身計(jì)算棧、實(shí)現(xiàn)系統(tǒng)級協(xié)同優(yōu)化的一貫邏輯。"英偉達(dá)是一家加速計(jì)算公司，不是GPU公司，我們并不執(zhí)著于計(jì)算發(fā)生在哪里，我們只想加速應(yīng)用。"

CPU戰(zhàn)略：為AI代理時(shí)代重新定義服務(wù)器架構(gòu)

在外界長期將英偉達(dá)定位為GPU公司的背景下，黃仁勛在本次專訪中系統(tǒng)闡述了英偉達(dá)進(jìn)軍CPU市場的邏輯，并對自研Vera CPU的設(shè)計(jì)哲學(xué)作出說明。

他指出，過去十年CPU的設(shè)計(jì)取向是為超大規(guī)模云計(jì)算優(yōu)化——以最大化可租用核心數(shù)量為目標(biāo)，單線程性能并非優(yōu)先項(xiàng)。然而在AI代理場景中，GPU在等待工具調(diào)用返回結(jié)果時(shí)，CPU的單線程性能直接決定系統(tǒng)整體效率。"你永遠(yuǎn)不能讓GPU時(shí)間空轉(zhuǎn)。"他說。

Vera CPU的核心差異化在于內(nèi)存帶寬與I/O帶寬：其每CPU核心的帶寬是目前任何CPU的三倍，專為不因I/O瓶頸而拖累GPU而設(shè)計(jì)。他還介紹了與英特爾在NVLink上的合作，以滿足企業(yè)計(jì)算市場對x86生態(tài)的延續(xù)性需求。

黃仁勛將AI代理的工具使用分為兩類：一類是結(jié)構(gòu)化工具，包括CLI、API和數(shù)據(jù)庫查詢；另一類是非結(jié)構(gòu)化工具，包括需要模型通過多模態(tài)感知操作網(wǎng)頁界面的PC端應(yīng)用。英偉達(dá)在兩條路徑上均有布局。

供應(yīng)緊平衡：電力與芯片產(chǎn)能雙雙告急

針對市場持續(xù)關(guān)注的AI算力供給問題，黃仁勛給出了迄今最直接的判斷：電力與芯片產(chǎn)能均處于緊平衡狀態(tài)，短期內(nèi)無任何一項(xiàng)存在翻倍空間。

"我不認(rèn)為我們有兩倍于需求的電力，也不認(rèn)為我們有兩倍于需求的芯片供應(yīng)，任何方面都沒有兩倍的冗余。"他說，"但就我目前看到的前景，我們的供應(yīng)鏈能夠支撐。"

他表示，英偉達(dá)在供應(yīng)鏈端擁有約兩百家長期合作伙伴，并提前進(jìn)行了上下游規(guī)劃，對今明兩年的大規(guī)模增長持樂觀態(tài)度。

但他坦言，目前最大的瓶頸或許并不在芯片本身，而在于數(shù)據(jù)中心的土地、電力與建筑的落地速度。"我最希望的事情，可能就是這些基礎(chǔ)設(shè)施能更快竣工。"

當(dāng)被問及英偉達(dá)是否是算力稀缺的最大受益者時(shí)，黃仁勛承認(rèn)公司規(guī)模最大且供應(yīng)鏈準(zhǔn)備最為充分，但將此歸因于長期規(guī)劃，而非市場格局的偶然紅利。