蘋果Mac設備與英偉達顯卡的兼容問題長期困擾開發者。由于蘋果與英偉達多年前的合作中斷,macOS系統失去了對英偉達GPU的官方驅動支持,導致CUDA生態在該平臺上幾乎停滯,開發者不得不轉向蘋果自研的metal架構。然而,這一局面近期出現突破性進展。
開源社區傳來新消息:Tiny Corp發布的定制驅動通過雷靂5/USB4接口實現了外置顯卡與蘋果芯片Mac的直接通信。YouTube博主Alex Ziskind通過實測驗證,將英偉達RTX 5090顯卡成功連接至Mac mini M4 Pro,并在macOS系統上運行了Llama 3.1 8B大模型,實測性能達到7.48 Token/s。
這項技術突破的關鍵在于驅動架構的創新。當前版本依賴Tiny Grad編譯器進行任務調度,雖未采用metal或CUDA的原生優化,但仍展現出Blackwell架構的獨特優勢。測試數據顯示,RTX 5090的首Token響應速度比metal原生方案快3-4倍,不過整體運算效率因編譯器限制仍落后10倍左右。Alex Ziskind在演示視頻中特別指出,現有驅動尚未完全釋放顯卡性能潛力。
盡管當前方案存在性能損耗,但這仍是蘋果生態中首個可直接運行大模型的外接顯卡解決方案。相比傳統虛擬機方案,該技術通過硬件直連避免了性能折損,為Mac開發者提供了新的硬件加速途徑。業內人士分析,隨著驅動持續優化,未來可能縮小與metal原生方案的性能差距,但短期內仍難以完全替代成熟的metal開發環境。










