Kad lietot Raspberry Pi 5 AI komplektu
Raspberry Pi 5 AI komplekts nodrošina 82,4 kadri sekundē YOLOv8 objektu noteikšanā, vienlaikus patērējot tikai 9,7 W-bet tikai tad, ja redzes modeļus izmantojat kameras cauruļvadā. Šai specifikai ir lielāka nozīme nekā iespaidīgajam 13 TOPS skaitlim uz kastes.
Esmu vērojis, kā desmitiem izstrādātāju iegādājas šo komplektu par 70 $, gaidot ChatGPT paātrinājumu, taču atklāju, ka tas nevar pieskarties valodu modeļiem. Apjukums ir saprotams: "AI Kit" izklausās universāli. Realitāte ir tāda, ka Hailo-8 L procesors ir saderīgs tikai ar mašīnmācīšanās uzdevumiem, kas ietver plūsmu, ko uztver kameras moduļi, nevis tīmekļa kameras, nevis IP kameras, jo īpaši Raspberry Pi kameru moduļi.
Tas nav ierobežojums; tā ir specializācija. Datorredzes secinājumam pie malas ir nepieciešama principiāli atšķirīga arhitektūra nekā LLM secinājumam. Hailo-8L datu plūsmas arhitektūra izceļas ar pirmo, bet otrā ir pilnīgi nepareiza.
Reālā veiktspējas atšķirība: skaitļi, kuriem ir nozīme
Izlaidiet TOPS mārketingu. Raspberry Pi 5 centrālais procesors nodrošina YOLOv8 objektu noteikšanu ar ātrumu 0,45 FPS ar 100% CPU izmantošanu. Pievienojiet AI komplektu, un jūs sasniegsit 82,4 kadri sekundē ar 15-30% CPU. Tas nav 2x uzlabojums, tas ir 183x reizinātājs.
Taču konteksts šos skaitļus veido dramatiski. PCIe Gen 3 ātrumos ar 8. partijas lielumu tas pats YOLOv8s modelis sasniedz 120 FPS. Pārejiet uz 2. gadu, un jūs sasniedzat 40 kadri/s. Palieliniet partijas lielumu līdz 32, un veiktspēja samazinās līdz 54 kadriem sekundē.
PCIe sašaurinājums ir reāls. Viena Gen 3 josla nodrošina 8 Gbit/s-pietiekamu lielākajai daļai redzes uzdevumu, taču ir stingri griesti. Uzstādījumiem, kuru pamatā ir -moduļi, ir nepieciešama visa piekļuve atmiņai, lai tie izietu caur PCIe interfeisu, atšķirībā no NPU, kas integrēti SoC, kas koplieto ātrdarbīgus{6}}atmiņas kanālus ar centrālo procesoru.
Perspektīvai: pozas aprēķins darbojas ar ātrumu 66,1 FPS ar kopējo sistēmas patēriņu 9,7 W. Tas ir 200 reizes ātrāk nekā tikai CPU{4}}secinājumi, vienlaikus patērējot mazāk enerģijas. Matemātika pārbauda izvietošanu ar akumulatoru-.
Konkurējošā aparatūra: lēmumu koks par 70 $
Google Coral TPU piedāvā 4 TOPS ar 2 TOPS/W efektivitāti 6- gadus vecā mikroshēmā. Hailo-8L nodrošina 13 TOPS ar ātrumu 3-4 TOPS/W. Uz papīra Hailo uzvar.
Bet Coral ir TensorFlow Lite integrācija, kas "tikai darbojas". Coral USB paātrinātājs tiek savienots, izmantojot standarta USB, viegli integrējas esošajās sistēmās un atbalsta mērenus modeļus, piemēram, MobileNet v2 ar aptuveni 2 vatu enerģijas patēriņu. Nav nepieciešama PCIe konfigurācija.
Hailo-8 (26 TOPS) pastāv, bet maksā 150-200 USD. Šajā cenu punktā jūs salīdzināt ar risinājumiem, kas piedāvā lielāku elastību. Labākā vieta ir 8L par 70 ASV dolāriem, ja jūsu lietošanas gadījums atbilst.
Pineboards piedāvā alternatīvas: Dual M.2 HAT, kas apvieno Hailo-8L ar NVMe krātuvi, vai Coral Edge konfigurācijas, lai turpinātu esošo Coral projektu attīstību. Tie atrisina oficiālā komplekta "paātrinātāja vai uzglabāšanas" ierobežojumu.
1. izmantošanas gadījums:{1}}Reāllaika drošība un uzraudzība
Drošības kameras ģenerē nerimstošas datu plūsmas. AI komplekts apstrādā 1080p drošības kadrus, atklājot cilvēkus, automašīnas un pakas, nenometot kadrus. Šis 13x veiktspējas pieaugums padara drošības kameras faktiski dzīvotspējīgas.
Džefa Džērlinga projektā tika apvienoti vairāki Hailo NPU,{0}}kopā sasniedzot 51 TOPS, savienojot Hailo-8L, Hailo-8 un Coral TPU, izmantojot PCIe slēdžus. Pārmērīgi? Jā. Taču tas plašā mērogā demonstrē vairāku kameru scenārijus.
Reālā izvietošana izskatās savādāk. Maksas laukuma uzraudzības sistēma izmantoja Edge Impulse datorredzi ar platu kameras moduli, lai vienlaikus noteiktu un uzskaitītu transportlīdzekļus vairākās joslās. Platleņķa objektīvs tvēra plašākus apgabalus; AI komplekts nodrošināja apstrādes vietu.
Šeit svarīga ir fregates NVR integrācija. Hailo ir oficiāli integrēts fregates sistēmā, sākot no versijas 0.16.0, padarot to par kritumu-novecojošo Coral iestatījumu aizstāšanai esošajās novērošanas instalācijās.
Kritisks ierobežojums: AI komplekts un AI HAT+ nedarbojas, ja ir versijas neatbilstība starp Hailo programmatūras pakotnēm un ierīces draiveriem. Ražošanas izvietošanai ir nepieciešamas versijas-bloķēšanas stratēģijas.
2. lietošanas gadījums: rūpniecisko procesu kontrole
Būvniecības drošības sistēmas var noteikt cilvēkus, kas atrodas būvniecības transportlīdzekļu priekšā, sānos un aiz tiem. AI-vadītās kameras aizstāj vairākus cilvēku novērotājus un reāllaikā izseko darbinieku atrašanās vietas.
Priekšrocība ir paralēlisms: AI vienlaikus apstrādā vairākas bīstamās zonas, kamēr cilvēki dabiski fokusējas secīgi. Brīdinājuma ģenerēšanas reakcijas laiks ir svarīgāks par nevainojamu precizitāti.
Ražošanas kvalitātes kontrole notiek pēc līdzīgas loģikas. Ražošanas līnijas kamerai, kas pārbauda montāžas pareizību, ir nepieciešams konsekvents kadru ātrums, nevis maksimālā veiktspēja. AI komplekts nodrošina objektu noteikšanas 82,4 kadri sekundē, kas ir pietiekams lielākajai daļai ražošanas līniju ātruma, vienlaikus atstājot CPU jaudu vadības sistēmām.
Kompaktais izmērs nodrošina integrāciju esošajos ražošanas līnijas punktos. Sistēma mērogojas, pievienojot kameras, nevis pārveidojot infrastruktūru.
Taču rūpnieciskā izvēršana prasa vairāk. Jāizvairās no SD karšu izmantošanas ražošanas ierīcēm, jo ir ierobežota rakstīšanas izturība un zema uzticamība neuzticamas strāvas apstākļos. Nepieciešami rūpnieciskas kvalitātes eMMC vai cietie diski.
3. lietojuma gadījums: Robotika un autonomās sistēmas
Autonoms zemūdens robota prototips izmantoja AI komplektu objektu noteikšanai ar YOLOv8 modeli, kas apmācīts uz pielāgotām datu kopām, saskaņojot ar BLDC motoriem, ko kontrolē, izmantojot PCA9685 PWM draiveri I2C saskarnē.
Izaicinājums: Hailo SDK integrēšana ar esošajiem OpenCV cauruļvadiem. Izstrādātāji, kas pieraduši pie 8 rindu PyTorch+Ultralytics ieviešanas PC GPU, saskaras ar stāvāku mācīšanās līkni, izmantojot Hailo rīku ķēdi. Modeļa konvertēšana nav automātiska.
Navigācijas algoritmi patērē CPU ciklus. Mario roku noteikšanas sistēma vienlaikus darbojās trīs modeļos-rokas noteikšana un orientieri-, saglabājot 26–28 kadri sekundē ar vienu roku, 22–25 kadri sekundē ar divām rokām. Šis apstrādes budžets atstāj vietu ceļa plānošanai un motora vadībai.
Viedie piegādes roboti ir piemērotības piemērs: nepārtraukta redzes apstrāde, kamēr centrālais procesors apstrādā navigācijas loģiku, komunikāciju un lēmumu kokus. 3-4 TOPS/W efektivitāte ievērojami pagarina akumulatora darbības laiku mobilajās ierīcēs.
4. lietošanas gadījums: mazumtirdzniecības un klientu analīze
Mazumtirdzniecības lielveikalu pārvaldības demonstrācijā AI komplektā tika palaists YOLOv8n, lai noteiktu produktus plauktos, savukārt EfficientNet darbojās CPU klasificēšanai. Darba dalīšana: NPU apstrādā noteikšanu (kur ir produkts?), CPU apstrādā klasifikāciju (kurš produkts?).
Pozīciju novērtējums pievieno klientu uzvedības analīzi. 66.1 FPS pozas aplēses veiktspēja ļauj izsekot klientu kustībām pa veikala zonām, analizēt uzturēšanās laiku un noteikt rindas bez individuālas identifikācijas.
Privātums šeit ir svarīgs. Apstrāde ierīcē- nozīmē, ka video nekad nepamet atrašanās vietu. Modeļi, kas apmācīti vispārējai "personas" noteikšanai, nesaglabā biometriskos datus{3}}tikai telpiskos metadatus.
Projekts "Peeper Pam" atklāja cilvēkus aiz jums pie rakstāmgalda, ignorējot krēslus, galdus un augus rāmī. Analogā skaitītājā parādīta noteikšanas ticamība: 0 — “nav personas”, 1 — “klātbūtnē noteikta persona” ar nenoteiktību starp tām.
Tāda pati loģika attiecas uz noslogojuma uzraudzību, rindu pārvaldību un telpas izmantošanu -visur, kur nepieciešams "vai persona ir klāt?" nerūpējoties "kurš cilvēks?"
5. lietošanas gadījums: pielāgota modeļa izvietošana (ar brīdinājumiem)
Hailo datu plūsmas kompilators pārvērš modeļus no standarta ML ietvariem uz Hailo izpildāmo formātu, izmantojot kvantēšanas{0}}apmācību, lai modeļus samazinātu, vienlaikus saglabājot precizitāti.
Darbplūsma: apmāciet PyTorch vai TensorFlow, eksportējiet uz ONNX, konvertējiet uz HEF (Hailo izpildāmā formāta), izmantojot DFC, izvietojiet uz Pi. Ir pieejamas apmācības, lai pilnībā apmācītu-lai-izvērstu YOLOv8n modeļus.
Bet modeļu saderība nav universāla. Hailo kompilētie modeļi ir īpaši optimizēti mikroshēmu arhitektūrai,{1}}tas nozīmē, ka dažas darbības vienkārši netiks kartētas. Zooloģiskais dārzs piedāvā iepriekš-apkopotus piemērus; pielāgotām arhitektūrām ir nepieciešama pārbaude.
Hailo Python API tagad ļauj palaist secinājumus par Hailo-8L, izmantojot Python, un ir pieejami piemēri gan atsevišķiem skriptiem, gan integrācijai ar picamera2. Tas samazina barjeru salīdzinājumā ar iepriekšējām tikai GStreamer darbplūsmām.
Edge Impulse nodrošina citu ceļu. Viņu platforma apstrādā modeļu apmācību un Hailo konversijas cauruļvadu, izvadot modeļus, kas ir gatavi-izvēršanai{2}}. Komandām bez zināšanām par ML šī pārvaldītā pieeja samazina izmēģinājuma-un-kļūdas.
Kad NEIZMANTOT AI komplektu
Lielo valodu modeļi:Hailo-8 L procesors nevar palaist LLM. Tas ir saderīgs tikai ar mašīnmācības uzdevumiem, kas ietver kameras moduļu plūsmas. Nekāda optimizācija nemaina šo arhitektūras ierobežojumu.
Lai palaistu LLM, izmantojot Pi 5, ir nepieciešams CPU secinājums ar modeļiem ar 7B parametriem. Gemma2-2B sasniedza pienācīgu veiktspēju, izmantojot 3 GB RAM; DeepSeek-r1:8b skrēja lēni. AI komplekts to nepaātrina.
Ģeneratīvā AI:Teksta ģenerēšana, attēlu sintēze, audio ģenerēšana{0}}šīs darbplūsmas nav saistītas ar Hailo-8L datu plūsmas arhitektūru. Nākotnes Hailo 10H ar 40 TOPS un 8 GB DDR4 RAM ir paredzētas ģeneratīvai AI darba slodzei, taču tas vēl nav pieejams Pi 5.
Uzdevumi, kas nav{0}}kameras redzes uzdevumi:Nekustīgu attēlu apstrāde no failiem darbojas, taču AI komplekts darbojas īpaši ar Raspberry Pi kameru moduļiem{0}}nevis tīmekļa kamerām vai IP kamerām. Lai nodrošinātu saderību ar trešās puses kameru-, ir nepieciešams libcamera atbalsts.
Nepieciešamība pēc uzglabāšanas:Oficiālā komplekta M.2 slots ir aizņemts ar Hailo moduli, kas neļauj pievienot NVMe SSD. Ja jums ir nepieciešams gan AI paātrinājums, gan ātra krātuve, ir nepieciešami trešās puses dubultie M.2 HAT.
Stingras integrācijas prasības:No 2025. gada marta rpicam{1}}lietotnes ir vienīgais Raspberry Pi programmatūras komplekts, kas ir dziļi integrēts ar Hailo paātrinātāju. Programmatiskā piekļuve no Python skriptiem, izmantojot picamera2, kļuva pieejama vēlāk. Agrīna pieņemšana nozīmēja ierobežotu API elastību.
Lēmumu sistēma
Uzdodiet šos piecus jautājumus:
1. Vai jūsu AI uzdevuma vīzija-balstās?
Jā, ar kameras moduli → AI komplekts ir dzīvotspējīgs
Nē, vai apstrāde ir balstīta uz{0}} failiem → pārdomājiet
Teksta/audio apstrāde → nepareizs rīks
2. Kāds ir jūsu veiktspējas mērķis?
30+ FPS reāllaikā-→ Nepieciešams mākslīgā intelekta komplekts
5-10 FPS ir pieņemams → CPU var būt pietiekami
<1 FPS tolerable → don't spend $70
3. Vai jums ir nepieciešami pielāgoti modeļi?
Jā, un vēlas apgūt DFC → pārvaldāms
Jā, bet nav ML pieredzes → Edge Impulse maršruts
Nē, izmantojot tikai iepriekš apmācītu{0}} → ideāls scenārijs
4. Kāds ir jūsu izvietošanas mērogs?
1-10 vienības prototipa izveidei → ideāli piemērots
100+ ražošanas vienības → piegādes, siltuma, uzticamības koeficients
Industriālie/komerciālie → nepieciešami rūpnieciskie Pi varianti, nevis mazumtirdzniecības dēļi
5. Vai jūs varat pieņemt ierobežojumus?
Kameras moduļa prasība
Versiju atkarības pārvaldība
Nav NVMe sāknēšanas bez dubultās M.2 HAT
0-50 grādu darba temperatūra
PCIe joslas platuma griesti
Ja uz 1., 2. un 5. jautājumu atbildējāt labvēlīgi un jums ir stratēģija 3. un 4. jautājumam, AI komplekts nodrošina izcilu vērtību — 70 ASV dolāri.
Iestatiet realitātes pārbaudi
Aparatūras instalēšana aizņem minūtes: instalējiet dzesēšanas sistēmu, pievienojiet atdalījumus, nospiediet GPIO galveni, pievienojiet lentes kabeli PCIe portam, nostipriniet AI komplektu ar skrūvēm.
Programmatūras konfigurācijai nepieciešama rūpīgāka informācija:
sudo apt atjaunināšana un sudo apt full{0}}upgrade sudo rpi-eeprom-update sudo raspi-config # Papildu opcijās iespējot PCIe Gen 3 sudo apt install hailo-visi sudo reboot hailortcli}control identificate #{6}
Versiju neatbilstības starp Hailo programmatūras pakotnēm un ierīču draiveriem izraisa pilnīgu sistēmas kļūmi. Pirms izvietošanas rūpīgi pārbaudiet.
Lai nodrošinātu vislabāko veiktspēju, ieteicams izmantot AI komplektu ar Raspberry Pi Active Cooler. Bez dzesēšanas pamata RPi5 plate pārkarst, izmantojot AI komplektu.
Siltuma pārvaldība nav obligāta,{0}}tā ir nepieciešama ilgstošai veiktspējai.
70 $ vērtības aprēķins
Ko jūs saņemat:
13 TOPS neironu secinājumi
Tikai 180x+ veiktspēja salīdzinājumā ar centrālo procesoru{2}}
3-4 TOPS/W efektivitāte
Integrēts rpicam{0}}lietotņu atbalsts
Iepriekš-aprīkots termiskais spilventiņš
Visa montāžas aparatūra
Ko jūs nesaņemat:
LLM paātrinājums
Vispārīga-MI aprēķins
Plug{0}}and-vienkāršība
Krātuves paplašināšana
Universāla kameras saderība
Par 70 ASV dolāriem ir grūti atrast pieejamāku veidu, kā iegremdēt pirkstus malas AI. Cena ir zemāka par Coral TPU komplektiem, vienlaikus nodrošinot vairāk nekā 3 reizes TOPS.
Bet vērtība pilnībā ir atkarīga no lietošanas gadījumu saskaņošanas. Redzes secinājumam pie malas tas ir ārkārtējs. Visam pārējam tam nav nozīmes.
Bieži uzdotie jautājumi
Vai es varu izmantot AI komplektu ar Raspberry Pi 4 vai vecākiem modeļiem?
Nē. AI komplektam ir nepieciešams Raspberry Pi 5, jo tam ir nepieciešams vietējais PCIe atbalsts. Iepriekšējiem modeļiem pilnībā trūkst PCIe interfeisa. Nav neviena risinājuma vai adaptera, kas to mainītu.
Vai AI komplekts paātrinās manu objektu noteikšanas kodu, kas rakstīts Python, izmantojot OpenCV?
Daļēji. Hailo Python API ļauj veikt secinājumus par Hailo-8L, izmantojot Python, taču jums ir jāpārveido modelis HEF formātā un jāmaina kods, lai standarta OpenCV secinājumu izsaukumu vietā izmantotu Hailo API. Tā nav caurspīdīga nomaiņa.
Kā partijas lielums ietekmē veiktspēju?
Izmantojot YOLOv8s ar izšķirtspēju 640 x 640: 2. paketa lielums sasniedz 80 kadri sekundē, 4. sērijas lielums sasniedz 100 kadri sekundē, 8. sērijas lielums sasniedz 120 kadri sekundē. Turklāt veiktspēja pasliktinās: 16. grupa samazinās līdz 100 kadriem sekundē un 32. grupa samazinās līdz 54 kadriem sekundē PCIe joslas platuma piesātinājuma dēļ.
Vai es varu palaist no NVMe un vienlaikus izmantot AI komplektu?
Ne tikai ar oficiālo komplektu. Slotu M.2 aizņem Hailo modulis. Pineboards un līdzīgi pārdevēji piedāvā divus M.2 HAT, kas nodrošina gan NVMe, gan AI paātrinātāja slotus, atrisinot šo ierobežojumu par papildu samaksu.
Vai Google Coral atbalsts ir novecojis?
Nav oficiāli novecojis, taču Coral programmatūras steks nav aktīvi uzturēts, jo PyCoral ir nepieciešama Python 3.9. Šķiet, ka Google ir atstājis Coral projektu dzīvības uzturēšanai pēc piegādes problēmām pandēmijas laikā. Esošā Coral aparatūra joprojām darbojas, taču turpmākais atbalsts ir neskaidrs.
Kāda dzesēšana man patiesībā ir vajadzīga?
Raspberry Pi iesaka izmantot AI komplektu ar aktīvo dzesētāju, lai nodrošinātu vislabāko veiktspēju. Neregulārai lietošanai var pietikt ar pasīvām radiatoriem, taču ilgstošas secinājumu darba slodzes samazināsies bez aktīvas dzesēšanas. Budžets 5 $ aktīvajam dzesētājam kopā ar AI komplektu.
Vai es varu palaist vairākas kameras straumes vienlaikus?
Jā. Ir iespējams darbināt vairākus neironu tīklus vienā kamerā vai vienu vai vairākus neironu tīklus ar divām kamerām vienlaikus. Veiktspējas skalas, pamatojoties uz modeļa sarežģītību un PCIe joslas platuma pieejamību.
Godīgs secinājums
Raspberry Pi 5 AI komplekts ir specializēts rīks, kas ir izcils savā jomā. Redzes noteikšanai ar kameras moduļiem tas pārveido Pi 5 no "tehniski spējīga" uz "faktiski praktisku" ražošanas vajadzībām.
Tas nav vispārējs{0}}AI paātrinātājs. Tas nedarbosies ChatGPT. Tas neradīs attēlus. Tas nepalīdzēs audio sintēzei. Pieņemiet šos ierobežojumus, un tas nodrošinās izcilu vērtību. Cīnieties pret viņiem, un jūs iztērēsit 70 USD.
Lēmums nav “Vai AI komplekts ir labs?”-, bet gan “Vai AI komplekts ir piemērots šai konkrētajai lietojumprogrammai?” Atbildiet uz to godīgi, un jūs zināt, vai pirkt.
Key Takeaways
AI komplekts nodrošina 82,4 kadri sekundē YOLOv8 salīdzinājumā ar 0,45 kadri/s CPU-tikai-bet tikai kameru-pamatotiem redzes uzdevumiem
Nav saderīgs ar LLM, ģeneratīvo AI vai darbplūsmām, kas nav{0}}kameras redzamības
Nepieciešams Raspberry Pi 5 ar kameras moduli; nedarbosies ar Pi 4 vai tīmekļa kamerām
PCIe Gen 3 konfigurācija un aktīvā dzesēšana, kas nepieciešama optimālai veiktspējai
Versiju atkarības pārvaldība ir kritiska; neatbilstības izraisa pilnīgu sistēmas atteici
Vislabāk piemērots: drošības kamerām, rūpnieciskajai uzraudzībai, robotikai, mazumtirdzniecības analīzei
Izvairieties no: valodu modeļiem, attēlu ģenerēšanas, audio apstrādes, vispārīgiem AI eksperimentiem
Datu avoti
Raspberry Pi dokumentācija - AI komplekta programmatūra: https://www.raspberrypi.com/documentation/computers/ai.html
žurnāls Mehatronika - Raspberry Pi AI komplekta apskats: https://magazinmehatronika.com/en/raspberry-pi-ai-kit-review/
Seeed Studio - RPi5 un CM4 etalons: https://forums.raspberrypi.com/viewtopic.php?t=373867
Džefs Džērlings - Testē Raspberry Pi AI komplektu: https://www.jeffgeerling.com/blog/2024/testing-raspberry-pis-ai-kit-13-tops-70
XDA Developers - Raspberry Pi AI Kit praktisks-: https://www.xda-developers.com/raspberry-pi-ai-kit-hands-on/
Raspberry Pi forumi - AI komplekta diskusijas: https://forums.raspberrypi.com/
Hailo kopienas forumi: https://community.hailo.ai/
GitHub - hailo-ai/hailo-rpi5-piemēri: https://github.com/hailo-ai/hailo-rpi5-examples