蘋果Mac設備與英偉達顯卡的兼容問題長期困擾開發者。由于蘋果與英偉達多年前的合作中斷，macOS系統失去了對英偉達GPU的官方驅動支持，導致CUDA生態在該平臺上幾乎停滯，開發者不得不轉向蘋果自研的metal架構。然而，這一局面近期出現突破性進展。
開源社區傳來新消息：Tiny Corp發布的定制驅動通過雷靂5/USB4接口實現了外置顯卡與蘋果芯片Mac的直接通信。YouTube博主Alex Ziskind通過實測驗證，將英偉達RTX 5090顯卡成功連接至Mac mini M4 Pro，并在macOS系統上運行了Llama 3.1 8B大模型，實測性能達到7.48 Token/s。
這項技術突破的關鍵在于驅動架構的創新。當前版本依賴Tiny Grad編譯器進行任務調度，雖未采用metal或CUDA的原生優化，但仍展現出Blackwell架構的獨特優勢。測試數據顯示，RTX 5090的首Token響應速度比metal原生方案快3-4倍，不過整體運算效率因編譯器限制仍落后10倍左右。Alex Ziskind在演示視頻中特別指出，現有驅動尚未完全釋放顯卡性能潛力。
盡管當前方案存在性能損耗，但這仍是蘋果生態中首個可直接運行大模型的外接顯卡解決方案。相比傳統虛擬機方案，該技術通過硬件直連避免了性能折損，為Mac開發者提供了新的硬件加速途徑。業內人士分析，隨著驅動持續優化，未來可能縮小與metal原生方案的性能差距，但短期內仍難以完全替代成熟的metal開發環境。
