近年來，AI視覺在邊緣端應(yīng)用廣泛，行業(yè)對AI推理硬件的要求也日益提升。傳統(tǒng)CPU在CNN等視覺模型推理任務(wù)中逐漸顯露瓶頸，而專用AI加速器成為破局的關(guān)鍵。

Hailo-8 AI算力加速卡憑借“高效推理、低功耗運(yùn)行”的硬核實(shí)力，為邊緣AI視覺部署提供了可靠高效的算力支持。

我們收到Hailo-8 AI算力加速卡實(shí)物后，第一時(shí)間基于RK3588評估板完成適配測試，解鎖算力新可能！

▍AI視覺加速利器

Hailo-8 AI算力加速卡具備如下特點(diǎn)：

（1）超強(qiáng)算力：高性能AI架構(gòu)加持，支持INT8，算力高達(dá)26TOPS，輕松應(yīng)對高負(fù)載AI任務(wù)，尤其擅長CNN類視覺模型的高效推理。

（2）高速傳輸：支持PCIe 3.0，4Lane，具備高吞吐量輸入輸出能力，保障任務(wù)流暢運(yùn)行。

（3）廣泛兼容：支持Keras、TensorFlow、TensorFlowLite、PyTorch、ONNX等主流深度學(xué)習(xí)框架。

（4）超低功耗：典型功耗僅2.5W，滿負(fù)荷運(yùn)行最大功耗也僅8.25W，兼顧性能與能效。

（5）輕巧便攜：尺寸僅80*22*4.2mm（不含散熱器），重量約5.9g（不含散熱器），適配各類空間緊湊型設(shè)備。

▍yolov8s實(shí)測性能亮眼

為驗(yàn)證Hailo-8 AI算力加速卡性能，我們選取yolov8s目標(biāo)檢測模型開展實(shí)測，具體數(shù)據(jù)如下：

實(shí)測結(jié)果顯示，在執(zhí)行高幀率推理任務(wù)時(shí)，Hailo-8使用率較低，性能表現(xiàn)優(yōu)異。

▍軟件生態(tài)完善易用

Hailo-8擁有完善的軟件生態(tài)，提供從模型轉(zhuǎn)換到部署運(yùn)行的全流程工具鏈，降低開發(fā)門檻。

（1）Dataflow Compiler：將深度學(xué)習(xí)模型編譯為HEF模型文件（即Hailo-8兼容的二進(jìn)制模型文件）。

（2）HailoRT：運(yùn)行時(shí)環(huán)境及驅(qū)動，用于運(yùn)行神經(jīng)網(wǎng)絡(luò)、與Hailo設(shè)備交互。

（3）Model Zoo：預(yù)訓(xùn)練模型，用于快速測試和評估模型。使用Hailo模型庫，可以測量每個(gè)模型的全精度準(zhǔn)確率；使用Hailo仿真器（Hailo Emulator）進(jìn)行優(yōu)化后的準(zhǔn)確率，并在Hailo-8設(shè)備上測量實(shí)際準(zhǔn)確率。

▍場景落地快人一步

Hailo-8 AI算力加速卡引出M.2 Key M接口，可適配創(chuàng)龍科技RK3576、RK3588等工業(yè)單板機(jī)及創(chuàng)龍科技RK3576等工業(yè)評估板，亦可通過M.2轉(zhuǎn)PCIe轉(zhuǎn)接板與創(chuàng)龍科技RK3588等工業(yè)評估板搭配使用。

目前，創(chuàng)龍科技已完成RK3588評估板 + Hailo-8 AI算力加速卡的適配工作，可提供詳細(xì)測試步驟文檔。

RK3588負(fù)責(zé)多任務(wù)調(diào)度與復(fù)雜邏輯處理，Hailo-8專注高負(fù)載AI推理，該組合可廣泛應(yīng)用于智能機(jī)器人、工業(yè)視覺檢測、輸電線路巡檢、鐵路巡防等場景，為端側(cè)AI部署提供強(qiáng)勁算力支撐。

審核編輯 黃宇