樹(shù)莓派（Raspberry Pi Ltd.）近日推出了一款專(zhuān)為樹(shù)莓派 5 設(shè)計(jì)的生成式人工智能擴(kuò)展板——Raspberry Pi AI HAT+ 2，定價(jià) 130 美元（約合人民幣 908.1 元）。這款新品旨在填補(bǔ)樹(shù)莓派硬件生態(tài)在生成式人工智能（GenAI）領(lǐng)域的空白，為用戶(hù)提供本地化的大語(yǔ)言模型（LLM）和視覺(jué)語(yǔ)言模型（VLM）運(yùn)行能力。

一年前，樹(shù)莓派曾發(fā)布初代 AI HAT+，但由于硬件架構(gòu)限制，無(wú)法支持日益普及的生成式模型。此次推出的二代產(chǎn)品通過(guò)硬件升級(jí)，專(zhuān)門(mén)針對(duì)樹(shù)莓派 5 優(yōu)化，核心目標(biāo)是讓用戶(hù)無(wú)需依賴(lài)云端服務(wù)，即可在邊緣設(shè)備上實(shí)現(xiàn)高效、私密的 AI 計(jì)算。這一改進(jìn)顯著降低了生成式 AI 的使用門(mén)檻，為開(kāi)發(fā)者提供了更多可能性。

在硬件配置方面，AI HAT+ 2 搭載了全新的 Hailo-10H 神經(jīng)網(wǎng)絡(luò)加速器，可提供最高 40 TOPS（INT4）的推理性能。與前代產(chǎn)品相比，新品最大的升級(jí)是配備了 8GB 板載專(zhuān)用內(nèi)存。這一改進(jìn)使得加速器能夠高效處理更大規(guī)模的模型，不僅支持 LLM 的流暢運(yùn)行，在處理 Yolo 等傳統(tǒng)視覺(jué)任務(wù)時(shí)，性能也與前代 26-TOPS 版本相當(dāng)，同時(shí)兼容現(xiàn)有的 libcamera 等攝像頭軟件棧。

軟件適配方面，AI HAT+ 2 首發(fā)即支持多款熱門(mén)開(kāi)源模型，包括 DeepSeek-R1-Distill (1.5B)、Llama 3.2 (1B) 以及 Qwen2.5 系列（Coder / Instruct）。用戶(hù)可以通過(guò) Hailo-ollama 后端與 Open WebUI 前端的配合，在瀏覽器中獲得類(lèi)似 ChatGPT 的聊天交互體驗(yàn)。官方演示顯示，該設(shè)備在完全斷網(wǎng)環(huán)境下，能夠流暢執(zhí)行代碼編寫(xiě)、法英翻譯以及實(shí)時(shí)描述攝像頭畫(huà)面等任務(wù)。

具體應(yīng)用場(chǎng)景中，AI HAT+ 2 展現(xiàn)了強(qiáng)大的多任務(wù)處理能力。例如，使用 Qwen2 模型可以回答簡(jiǎn)單問(wèn)題；Qwen2.5-Coder 模型能夠執(zhí)行編碼任務(wù)；Qwen2 模型還可實(shí)現(xiàn)法英翻譯；在視覺(jué)語(yǔ)言任務(wù)中，該設(shè)備可以實(shí)時(shí)描述攝像頭捕捉的畫(huà)面。這些功能均通過(guò)本地計(jì)算完成，無(wú)需依賴(lài)網(wǎng)絡(luò)連接，進(jìn)一步提升了數(shù)據(jù)隱私性和響應(yīng)速度。