在生成式人工智能與基礎(chǔ)模型計(jì)算需求持續(xù)攀升的背景下，IBM研究院通過(guò)全棧式技術(shù)路徑，將人工智能計(jì)算能力深度融入系統(tǒng)產(chǎn)品體系，并推出基于該理念打造的IBM Spyre加速器。這款專為企業(yè)級(jí)應(yīng)用設(shè)計(jì)的AI加速器，旨在解決復(fù)雜工作負(fù)載中多模型協(xié)同運(yùn)行的挑戰(zhàn)，其核心設(shè)計(jì)兼顧了軟件無(wú)縫集成、硬件靈活適配以及企業(yè)級(jí)可靠性需求。

針對(duì)企業(yè)工作負(fù)載中決策自動(dòng)化場(chǎng)景的特殊性，Spyre突破傳統(tǒng)加速器的單一功能定位，在優(yōu)化推理性能的同時(shí)，完整覆蓋AI生命周期各階段需求。其架構(gòu)設(shè)計(jì)采用"面向未來(lái)"理念，通過(guò)可編程數(shù)據(jù)流微架構(gòu)與動(dòng)態(tài)數(shù)字格式支持，確保從模型訓(xùn)練到微調(diào)再到推理的全流程適配性。這種設(shè)計(jì)使加速器能夠隨企業(yè)需求演變，持續(xù)擴(kuò)展應(yīng)用場(chǎng)景邊界。

在硬件架構(gòu)層面，Spyre AI內(nèi)核采用創(chuàng)新的混合精度計(jì)算單元。每個(gè)內(nèi)核包含兩個(gè)核心單元，每個(gè)單元集成8x8 SIMD脈動(dòng)陣列與雙一維向量陣列。其中64個(gè)低精度引擎支持fp16/fp8/int8/int4運(yùn)算，配合fp32精度的一維陣列，在保證能效的同時(shí)實(shí)現(xiàn)關(guān)鍵運(yùn)算的精確控制。兩級(jí)可編程SRAM暫存架構(gòu)與32個(gè)活動(dòng)內(nèi)核的環(huán)形互連設(shè)計(jì)，使系統(tǒng)峰值帶寬達(dá)到204GB/s，滿足大規(guī)模矩陣運(yùn)算需求。

系統(tǒng)級(jí)芯片采用5nm CMOS工藝制造，集成256億晶體管。通過(guò)雙向環(huán)路連接32個(gè)活動(dòng)內(nèi)核與2個(gè)冗余內(nèi)核，配合16通道LPDDR5內(nèi)存控制器，在6.4Gbps數(shù)據(jù)速率下實(shí)現(xiàn)高效內(nèi)存訪問(wèn)。特有的DMA/RDMA流水線傳輸機(jī)制，使數(shù)據(jù)搬運(yùn)與計(jì)算執(zhí)行階段重疊，顯著提升多推理任務(wù)并行處理能力。這種設(shè)計(jì)使單張PCIe卡即可支持復(fù)雜AI模型的實(shí)時(shí)運(yùn)行。

針對(duì)企業(yè)級(jí)應(yīng)用的功耗約束，Spyre創(chuàng)新采用雙環(huán)電源管理方案。通過(guò)0.55V/0.75V多電源域劃分，結(jié)合軟件可控的峰值功耗調(diào)節(jié)機(jī)制，在標(biāo)準(zhǔn)PCIe插槽功耗范圍內(nèi)實(shí)現(xiàn)性能動(dòng)態(tài)優(yōu)化。這種設(shè)計(jì)使加速器既能滿足IBM Z系統(tǒng)部署48張卡的擴(kuò)展需求，也可適配Power系統(tǒng)16張卡的配置方案，為不同規(guī)模企業(yè)提供靈活的AI算力升級(jí)路徑。

軟件生態(tài)構(gòu)建方面，IBM與多家軟件企業(yè)建立合作，打造基于Red Hat Linux的企業(yè)級(jí)軟件棧。以PyTorch 2.x為核心框架的解決方案，通過(guò)專用編譯器與運(yùn)行時(shí)環(huán)境，實(shí)現(xiàn)應(yīng)用程序零修改遷移。這種深度集成設(shè)計(jì)使金融、醫(yī)療等行業(yè)的現(xiàn)有AI系統(tǒng)，能夠快速獲得Spyre加速器的性能提升，同時(shí)保持原有開(kāi)發(fā)流程的連續(xù)性。

通過(guò)獨(dú)特的可編程數(shù)據(jù)流架構(gòu)與混合精度計(jì)算單元，Spyre在推理效率、性能密度與功能靈活性之間取得平衡。其企業(yè)級(jí)設(shè)計(jì)理念與開(kāi)放生態(tài)策略，為生成式AI在關(guān)鍵業(yè)務(wù)場(chǎng)景的落地提供了新的算力解決方案，特別是在需要處理多類型模型協(xié)同運(yùn)行的復(fù)雜工作負(fù)載中展現(xiàn)出顯著優(yōu)勢(shì)。