#前言
首先,非常感謝得捷電子和電源網共同舉辦的Digikey年度寵粉活動,使得我能夠有機會接觸到新興的開發版設備,希望活動以后辦的越來越好。
本次購買的是Hailo 開發的一款高性能邊緣 AI 處理器(NPU),它專為低功耗、高效率的深度學習推理任務設計,可以提供高達 26 TOPS 的計算能力,適用于各種邊緣計算場景。為了和已有的樹莓派5開發版適配,我購買的是AI HAT版本,是專門為樹莓派設計的ai算力擴展板。可惜的是這個開發板只支持圖像模型的推理,而不支持最近大火的大語言模型。購買地點是在線上的得捷電子官方,里面的元器件開發板都很齊全,而且有質量保證,發貨速度快,值得推薦。
AI HAT模塊非常適合樹莓派5,剛好利用了樹莓派5上的mini PCIE接口。組裝好的兩者展示如下
其擁有26tops的算力,推理速度和英偉達的低端系列jetson相比略勝一籌。
官方也對相關應用有代碼支持。
經過測試,yolov8模型使用720p分辨率進行視頻推理可以穩定保持實時30fps的幀率。而且hailo官方也提供了模型轉換工具,用于將pc機器上面訓練好的模型權重放到hailort運行時環境中運行,類似于在rk瑞芯微的板卡上運行模型需要將pt或者onnx格式的模型保存為rknn進行npu推理加速。在以后我會嘗試,將埂新的模型移植到hailo8板卡上,如yolov10,yolov11等。
yolov8模型結構
最后,我還得感謝電源網和得捷電子提供這次活動參加機會,我會利用這個ai模塊學習更多ai部署相關知識。