近日,科技行業(yè)傳出一則引人關(guān)注的消息:OpenAI對英偉達(dá)部分最新AI芯片在推理任務(wù)中的表現(xiàn)提出質(zhì)疑,并自去年開始探索替代方案。據(jù)多位知情人士透露,OpenAI的不滿主要源于這些芯片在處理特定任務(wù)時的響應(yīng)速度未達(dá)預(yù)期,尤其是在軟件開發(fā)和AI系統(tǒng)間通信等場景下,向ChatGPT用戶輸出答案的延遲問題較為突出。
傳統(tǒng)上,英偉達(dá)的GPU架構(gòu)依賴外部存儲,這與推理任務(wù)需要頻繁讀取數(shù)據(jù)的需求存在沖突。相比之下,谷歌等競爭對手通過自研的張量處理單元(TPU)在推理效率上占據(jù)優(yōu)勢,這類專用芯片在特定場景下的性能表現(xiàn)優(yōu)于通用GPU。這一差距促使OpenAI重新評估其硬件戰(zhàn)略,逐步將重心轉(zhuǎn)向?yàn)锳I推理環(huán)節(jié)設(shè)計的定制化芯片。
針對相關(guān)報道,OpenAI發(fā)言人回應(yīng)稱,公司目前絕大多數(shù)推理算力仍依賴英偉達(dá)芯片,并強(qiáng)調(diào)英偉達(dá)產(chǎn)品在推理場景下提供了最佳的性價比。與此同時,英偉達(dá)方面也表示,客戶持續(xù)選擇其產(chǎn)品用于推理工作,核心原因在于其能夠提供規(guī)模化場景下最優(yōu)的性能與總體擁有成本。
值得關(guān)注的是,去年9月曾有消息稱英偉達(dá)計劃向OpenAI注資最高1000億美元,以換取股權(quán)并為其提供高端芯片采購資金。然而,這筆交易的實(shí)際談判拖延了數(shù)月,最終未能按預(yù)期完成。據(jù)知情人士透露,談判停滯期間,OpenAI已與超威半導(dǎo)體公司及其他企業(yè)達(dá)成合作,采購了可與英偉達(dá)產(chǎn)品競爭的圖形處理器。OpenAI自身產(chǎn)品路線圖的調(diào)整導(dǎo)致算力需求類型發(fā)生變化,這也進(jìn)一步影響了與英偉達(dá)的談判進(jìn)程。








