在人工智能算力競爭愈發白熱化的背景下，AI芯片初創企業Taalas推出了一項突破性技術——通過“硬連線”方式將AI模型直接固化在硅片中，試圖解決大模型推理延遲與成本高企的雙重難題。與傳統依賴高帶寬內存（HBM）和復雜散熱系統的設計不同，該公司選擇專用集成電路（ASIC）路徑，開發出能將任意AI模型轉化為定制硅片的平臺，核心原理是將特定大語言模型（LLM）的神經網絡結構直接映射至芯片電路，在DRAM級密度下完成全部計算。
這一設計從物理層面消除了數據傳輸的“內存墻”瓶頸。通過摒棄HBM、多層封裝及昂貴的散熱方案，Taalas的芯片在理論架構上實現了計算與存儲的深度融合。其首款產品HC1專為meta的Llama 3.1 8B模型優化，采用臺積電6nm制程工藝，芯片面積達815平方毫米，幾乎與英偉達H100相當。盡管如此，該芯片僅能容納80億參數的模型，與當前主流的萬億參數模型存在顯著差距，反映出硬連線技術在參數密度上的天然限制。
性能測試數據顯示，HC1在特定條件下可實現每秒17,000個tokens的生成速度。在EE Times的實測中，其在線聊天機器人演示達到每秒15,000+ tokens的輸出能力。公司透露，這一成績部分得益于對Llama3.1-8B模型的“激進量化”處理。更引人注目的是成本優勢：相比現有高端算力方案，HC1的單位token生成成本降低至二十分之一，同時將推理速度提升10倍。
為彌補單芯片容量不足的問題，Taalas采用集群化擴展策略。在針對DeepSeek R1模型的測試中，30芯片組成的集群系統實現每用戶12,000 TPS的吞吐量，遠超當前GPU集群約200 TPS/User的行業水平。這種架構使實時交互場景中的延遲接近不可感知級別，特別適用于需要快速響應的復雜推理任務。TPS（每秒Token數）作為衡量模型生成效率的核心指標，其數值提升直接縮短了用戶等待時間，類似于提升打字員的輸入速度。
盡管技術參數亮眼，但Taalas的商業模式面臨特殊挑戰。由于模型權重被永久固化在芯片硬件中，客戶需為特定算法版本購買專用設備。這意味著一旦底層模型更新迭代，已部署的硬件可能面臨快速貶值的風險。行業分析師指出，這種“模型-芯片強綁定”的模式在算法進化速度極快的AI領域，可能制約其長期市場接受度。
