沒有博士學(xué)位，沒有發(fā)表過學(xué)術(shù)論文，卻憑借開源項目和改進(jìn)研究成功入職OpenAI——Keller Jordan的經(jīng)歷正在AI圈引發(fā)熱議。這位2020年畢業(yè)于加州大學(xué)圣地迭戈分校的年輕人，用行動證明：在頂尖AI實(shí)驗室，行動力和開源貢獻(xiàn)可能比論文數(shù)量更具說服力。
在"NanoGPT speedrun"挑戰(zhàn)中，Keller將訓(xùn)練Transformer模型的token效率提升3.8倍，訓(xùn)練成本從100億token驟降至27億。更令人驚嘆的是，他通過代碼極簡化（僅537行）、環(huán)境快速部署（8×H100集群20分鐘完成安裝）和超低嘗試成本（單次8美元），徹底打破了AI研究的高算力壁壘。"這讓全球研究者都能用消費(fèi)級顯卡驗證新想法。"某獨(dú)立開發(fā)者如此評價。
2024年末，Keller推出的Muon優(yōu)化器再次震動學(xué)術(shù)界。這種針對神經(jīng)網(wǎng)絡(luò)隱藏層的優(yōu)化算法，通過正交化處理SGD動量更新矩陣，在CIFAR-10和NanoGPT訓(xùn)練中刷新世界紀(jì)錄。實(shí)驗數(shù)據(jù)顯示，在bf16精度下，Muon比主流的AdamW優(yōu)化器計算開銷降低40%，而模型收斂速度提升顯著。盡管尚未發(fā)表學(xué)術(shù)論文，但其完全開源的代碼庫已獲得超3000次星標(biāo)。
OpenAI的橄欖枝在2024年12月到來。有趣的是，面對Muon引發(fā)的關(guān)注，Keller拒絕撰寫傳統(tǒng)論文："大多數(shù)優(yōu)化器研究都是虛假繁榮，我更愿意用持續(xù)改進(jìn)的代碼說話。"這種務(wù)實(shí)態(tài)度與OpenAI的文化不謀而合。入職后，他繼續(xù)在GitHub更新Muon的改進(jìn)版本，最新代碼顯示已支持動態(tài)精度調(diào)整。
Keller的故事并非孤例。谷歌DeepMind的Sholto Douglas憑借在Jax開源社區(qū)的深度貢獻(xiàn)，成為Gemini項目的核心成員；半退休量化分析師Andy Jones通過自研GPU加速環(huán)境，展示出超越論文的工程能力，最終被Anthropic錄用。這些案例揭示著頂尖AI實(shí)驗室人才觀的轉(zhuǎn)變：可驗證的貢獻(xiàn)、開源社區(qū)影響力，正在取代論文數(shù)量成為新的敲門磚。
