aveņu pi ai komplekts

Kā darbojas Raspberry pi ai komplekts

Raspberry Pi AI komplekts pārveido jūsu Pi 5 par spējīgu AI platformu, apvienojot M.2 HAT ar Hailo{11}}8 L paātrinātāja mikroshēmu. Vienkārši izsakoties, tas darbojas, izkraujot mākslīgā intelekta aprēķinus no centrālā procesora uz speciālu neironu apstrādes bloku, kas nodrošina 13 triljonus darbību sekundē (13 TOPS), vienlaikus patērējot tikai 1-2 vatus parastās darba slodzes laikā (avots: theregister.com, 2024). Par 70 ASV dolāriem jūs saņemat aparatūras paātrinājumu, kas padara objektu noteikšanu reāllaikā, pozu novērtēšanu un attēlu klasifikāciju faktiski dzīvotspējīgu 60 ASV dolāru viena borta datorā.

Man šī arhitektūra šķita īpaši gudra. Tā vietā, lai gadiem gaidītu, līdz Raspberry Pi izveidos integrētu NPU, viņi sadarbojās ar Hailo, lai izveidotu modulāru risinājumu, kas darbojas šodien un ir viegli jaunināms rīt-AI HAT+ ar 26 TOPS jau ir pieejams tiem, kam nepieciešama lielāka jauda (avots: techcrunch.com, 2024).

Aparatūras arhitektūra: kā komponenti savienojas

AI komplekts sastāv no divām fiziskām daļām, kas darbojas kā viena sistēma. Pirmkārt, jums ir oficiālā Raspberry Pi M.2 HAT+ — shēmas plate, kas tiek pievienota jūsu Pi 5 40-pin GPIO galvenei un nodrošina M.2 2242 vai 2280 ligzdu. Otrkārt, ir Hailo-8L AI akseleratora modulis — maza M.2 karte, kas ir apmēram smaganu kociņa izmēra, ko iespraust šajā slotā.

Lūk, kas notiek, kad visu savienojat:

M.2 HAT saņem strāvu no Pi 5 GPIO tapām un izveido PCIe Gen 2 vai Gen 3 savienojumu, izmantojot plates PCIe interfeisu. Hailo-8L modulis saņem gan strāvu, gan datus, izmantojot šo vienoto M.2 savienojumu. Jūsu Pi 5 centrālais procesors apstrādā operētājsistēmu, lietojumprogrammu loģiku un pirmapstrādi, savukārt Hailo mikroshēma pārņem, kad ir jānotiek neironu tīkla secinājumiem.

PCIe savienojuma ietekme uz veiktspēju

Šeit liela nozīme ir savienojuma ātrumam. Testēšana parāda dubulto kadru nomaiņas ātrumu, kad darbojas PCIe Gen 3, salīdzinot ar Gen 2 tajā pašā YOLOv8s modelī (avots: forums.raspberrypi.com, 2024). Pi 5 atbalsta PCIe Gen 3 x1, nodrošinot aptuveni 1 GB/s joslas platumu starp centrālo procesoru un mākslīgā intelekta paātrinātāju{12}}pietiekami lielākajai daļai datora redzes uzdevumu, neradot šķēršļus.

Hailo-8L sasniedz 3–4 TOPS uz vatu efektivitāti, liekot to līdzās Nvidia Jetson Orin ierīcēm veiktspējas uz vienu dolāru un veiktspējas uz vatu izteiksmē (avots: jeffgeerling.com, 2024). Ja ņem vērā Pi 5 3–4 W patēriņu tukšgaitā, visa sistēma patērē mazāk enerģijas nekā tālruņa lādētājs, apstrādājot mākslīgā intelekta slodzes.

Hailo-8L iekšpusē: Neironu tīkla paātrinājuma skaidrojums

Hailo-8L nav vispārēja-nolūka procesors-, tas ir ASIC (lietojumprogrammai specifiskā integrālā shēma), kas paredzēts tikai efektīvai neironu tīklu darbībai. Padomājiet par to kā par grafisko karti, taču tā vietā, lai renderētu trīsstūrus, tā ir optimizēta matricas reizināšanai un konvolūcijām, kas nodrošina AI modeļu darbību.

Mikroshēma izmanto patentētu arhitektūru, ko Hailo sauc par "strukturētu ASIC". Pārāk neiedziļinoties silīcija dizainā, tas nozīmē, ka mikroshēmā ir speciālas aparatūras vienības dažādām neironu tīkla darbībām: konvolucionālie slāņi, aktivizācijas funkcijas, apvienošanas darbības un pilnībā savienotie slāņi iegūst savus optimizētos izpildes ceļus.

Kā patiesībā notiek secinājumi

Ja objektu noteikšanai palaižat modeli, piemēram, YOLOv8, šī ir vienkāršota darbplūsma:

Jūsu kamera uzņem kadrus un nosūta tos uz Pi centrālo procesoru. CPU veic attēla priekšapstrādi{1}}izmēru maiņu līdz modeļa ievades izmēriem, krāsu telpu pārveidošanu un pikseļu vērtību normalizēšanu. Šie iepriekš apstrādātie dati tiek nosūtīti caur PCIe kopni uz Hailo-8L. Paātrinātājs palaiž neironu tīklu, izvadot neapstrādātus noteikšanas rezultātus (ierobežojošās kastes, ticamības rādītājus, klases prognozes). Centrālais procesors saņem šos rezultātus un apstrādā pēc-apstrādi-, kas nav maksimālais apstrādi, lai noņemtu dublikātus, attēlam zīmē lodziņus un atjaunina jūsu lietojumprogrammas lietotāja interfeisu.

Šīs darba dalīšanas skaistums izpaužas etalonos. Pārbaudes liecina, ka mākslīgā intelekta komplekts darbojas rokas un orientieru noteikšanā ar ātrumu 26{2}}28 kadri sekundē līdz 5,8 reizēm ātrāk nekā TensorFlow Lite modeļu palaišana tikai ar Pi 5 CPU (avots: raspberrypi.com, 2024).

Atbalstītie modeļu formāti

Hailo-8L tieši nedarbina standarta TensorFlow vai PyTorch modeļus. Modeļi ir jāpārveido, izmantojot Hailo datu plūsmas kompilatoru, kas tos optimizē mikroshēmas arhitektūrai. Kompilācijas process izmanto jūsu apmācīto modeli (parasti ONNX formātu) un kartē to ar Hailo aparatūru, izmantojot kvantēšanu un citas optimizācijas.

Iepriekš apkopoti modeļi parastajām arhitektūrām ir pieejami Hailo modeļu zoodārzā: ResNet-50 darbojas ar ātrumu 500 kadri sekundē, YOLOv5, YOLOv8 varianti dažādos izmēros, MobileNet vieglai klasifikācijai un pozas novērtēšanas modeļi. Ja strādājat ar pielāgotiem modeļiem, kompilācijas darbplūsma prasa zināmu apmācību, taču tajā tiek ievērota standarta AI izvietošanas prakse.

Enerģijas patēriņš un siltuma pārvaldība

Viena no AI komplekta iespaidīgākajām specifikācijām ir enerģijas efektivitāte. Hailo-8L aktīvās secināšanas laikā parasti patērē 1–2 vatus, un maksimumi ir aptuveni 5 vati atkarībā no modeļa sarežģītības un kadru ātruma (avots: theregister.com, 2024). Apvienojumā ar Pi 5 bāzes patēriņu jūs skatāties uz aptuveni 5–9 vatiem kopējā sistēmas jauda AI darba slodzes apstākļos.

Modulis M.2 ietver nelielu radiatoru, un normālā darbībā pietiek ar pasīvo dzesēšanu. Esmu ievērojis, ka mikroshēma paliek pietiekami vēsa, tāpēc termiskā drosele nav saistīta ar tipiskām datora redzes lietojumprogrammām. Slēgtiem projektiem vai nepārtrauktas lielas-slodzes scenārijiem, ventilatora pievienošana Pi 5 korpusam palīdz gan centrālajam procesoram, gan mākslīgā intelekta paātrinātājam saglabāt maksimālo veiktspēju.

Salīdzinot to ar alternatīvām, atklājas vērtības piedāvājums: Nvidia Jetson Orin Nano cena ir aptuveni USD 249 un slodzes laikā patērē 7–15 W. Google Coral USB paātrinātājs maksā 60 USD, bet nodrošina tikai 4 TOPS un prasa USB 3.0 joslas platumu. Intel Neural Compute Stick 2 ražošana tiek pārtraukta. AI komplekts sasniedz augstu cenu, veiktspējas un jaudas efektivitātes līmeni, kas nepastāvēja pirms 2024. gada.

Programmatūras kaudze: no OS uz lietojumprogrammu

AI komplektam ir nepieciešama Raspberry Pi OS (64{2}}bitu) Bookworm vai jaunāka versija. Hailo nodrošina programmatūras komplektu, kas ietver kodola draiverus PCIe saziņai, izpildlaika bibliotēkas, kas pārvalda modeļu ielādi un secinājumus, Python saistvielas ērtai integrācijai un rpicam{3}}lietotņu integrāciju kameru projektiem.

Pirmā modeļa iestatīšana

Instalēšana aizņem apmēram 15 minūtes, ja ievērojat oficiālo rokasgrāmatu. Pēc operētājsistēmas mirgošanas un aparatūras pievienošanas tiek palaists Hailo instalācijas skripts, kas pievieno nepieciešamos kodola moduļus un bibliotēkas. Rpicam{3}}lietotņu pakotne tiek atjaunināta, iekļaujot Hailo atbalstu, ļaujot palaist AI modeļus tieši no kameras konveijera.

Testēšana ar iekļautajām demonstrācijām parāda sistēmu darbībā:

rpicam-labdien, --post-process-file /usr/share/rpicam-assets/hailo_yolov8_pose.json

Šī komanda tver kameras kadrus, palaiž tos, izmantojot pozas aplēses modeli Hailo mikroshēmā, un parāda rezultātus reāllaikā{0}}. Kadru nomaiņas ātrums ir atkarīgs no modeļa sarežģītības-vieglāki modeļi, piemēram, YOLOv8n, sasniedz 60+ FPS, savukārt smagākas versijas, piemēram, YOLOv8m, var darboties ar ātrumu 20–30 kadri sekundē.

Python izstrādei darbplūsma izskatās kā standarta OpenCV un Hailo{0}}specifiski izsaukumi:

Jūs importējat HailoRT bibliotēku, ielādējat savu kompilēto modeļa failu, padodat modelim iepriekš apstrādātus kadrus, izgūstat secinājumu rezultātus un apstrādājat izvades savā lietojumprogrammas loģikā. API abstrahē lielāko daļu sarežģītības, lai gan, lai izprastu ievades/izvades tensoru formātus, ir jāizlasa modeļa dokumentācija.

Reāli-pasaules lietojumprogrammu piemēri

Vairāki projekti demonstrē praktisku AI komplektu ieviešanu. Mazumtirdzniecības krājumu pārvaldības sistēma izmanto AI komplektu, kurā darbojas YOLOv8n, lai noteiktu plauktos esošos produktus, savukārt CPU EfficientNet uzrauga noliktavu ielaušanos (avots: forums.raspberrypi.com, 2024). Divu -modeļu pieeja parāda, kā vajadzības gadījumā varat apvienot paātrinātos secinājumus ar modeļiem, kuru pamatā ir CPU{7}}.

Drošības lietojumprogrammas gūst labumu no komplekta{0}}reāllaika iespējām. Sejas atpazīšanas sistēmas apstrādā video straumes ar ātrumu 25–30 kadri sekundē, ļaujot kontrolēt ierakstu vai reģistrēt apmeklētājus bez mākoņa atkarības. Pozas novērtēšana darbojas pietiekami ātri fitnesa programmām, kas izseko vingrinājumu formu vai skaita atkārtojumus.

Savvaļas dzīvnieku novērošanas projekti izmanto zema enerģijas patēriņa -saules-kameru slazdu pozu un objektu noteikšanu, lai identificētu dzīvniekus un to uzvedību bez biežām akumulatora izmaiņām. Pi daudzpusības un aparatūras{3}}paātrinātā AI apvienojums padara iepriekš nepraktiskus malu izvietošanas iespējas dzīvotspējīgas.

[Ieteikums vizuālajam elementam: ievietojiet diagrammu, kurā parādīta datu plūsma no kameras → Pi CPU (priekšapstrāde) → PCIe → Hailo-8L (secinājums) → Pi CPU (rezultāti) → Displejs/atmiņa]

Ierobežojumi un kad neizmantot AI komplektu

Komplekts lieliski darbojas, lai izdarītu secinājumus, taču tas nepalīdzēs modeļu apmācībā,{0}}kuram joprojām ir nepieciešami mākoņa GPU vai darbstacijas. 13 TOPS varētu izklausīties iespaidīgi, taču tas ne tuvu nav datu centra aparatūra. Sarežģīti modeļi vai vairākas vienlaicīgas secinājumu plūsmas var pārslogot paātrinātāju.

Modeļu saderībai jāpievērš uzmanība. Jūs esat bloķēts arhitektūrās, kuras atbalsta Hailo kompilators. Visprogresīvākie modeļi no pētniecības dokumentiem var nedarboties, kamēr Hailo nepievienos atbalstu vai jūs neieguldīsit laiku pielāgotā kompilācijā. Modeļu zoodārzs aptver visbiežāk sastopamos lietošanas gadījumus, taču specializētām lietojumprogrammām var būt nepieciešami risinājumi.

Dažām lietojumprogrammām latentumam ir nozīme. Lai gan Hailo-8L ir ātrs, datu sūtīšanas, izmantojot PCIe, secinājumu veikšanas un rezultātu atgriešanas aptur{4}}laiks, salīdzinot ar integrētajiem NPU, palielina dažas milisekundes. Robotikai vai reāllaika vadības sistēmām, kur katra milisekunde ir svarīga, šī cauruļvada aizkave var būt nozīmīga.

Budžeta ierobežojumi ietekmē vērtības piedāvājumu. Ja jums jau pieder Pi 5, mākslīgā intelekta komplekts 70 ASV dolāru apmērā ir nekaitīgs. Ja sākat no nulles, jūs iztērējat USD 130+ par visu sistēmu (Pi 5 + AI komplekts + barošanas avots + krātuve), un tad Jetson Nano konkurenti sāk izskatīties konkurētspējīgi atkarībā no jūsu veiktspējas vajadzībām.

Aparatūras specifikāciju salīdzināšana

AI HAT+ varianti piedāvā labāku saderību ar Pi 5 korpusu un uzlabotu mehānisko dizainu, taču nodrošina identisku veiktspēju oriģinālajam komplektam 13 TOPS līmenī (avots: electronicsweekly.com, 2025). 26 TOPS versija dubulto caurlaidspēju lietojumprogrammām, kurām nepieciešams apstrādāt augstākas izšķirtspējas ievades vai palaist sarežģītākus modeļus.

Biežākās iestatīšanas problēmas un risinājumi

AI komplekts pēc instalēšanas netiek atklāts

Tas parasti norāda uz PCIe uzskaites problēmu. Pārbaudiet, vai Pi failā config.txt esat iespējojis PCIe un vai M.2 HAT ir stingri nostiprināts uz visām GPIO tapām. Palaižot lspci, vajadzētu parādīt Hailo ierīci, ja savienojums darbojas.

Modeļi darbojas lēnāk, nekā paredzēts

Pārbaudiet, vai tiešām izmantojat Hailo paātrinātāju un neatgriežaties pie CPU secinājumiem. Pārbaudiet, vai žurnālos nav kļūdu modeļa ielādes laikā. Pārliecinieties, vai jūsu modelis ir pareizi kompilēts Hailo arhitektūrai,{2}}mēģinot palaist nekonvertētus modeļus, neizdosies vai pēc noklusējuma tiks veikta CPU izpilde.

Sistēma avarē zem slodzes

Strāvas padeves problēmas rada lielāko daļu stabilitātes problēmu. Pi 5 ir nepieciešami vismaz 5 V/5 A (27 W), un AI komplekts papildina šo prasību. Izmantojiet oficiālo Raspberry Pi 27 W barošanas avotu vai līdzvērtīgu. Nepietiekama jauda izraisa sprieguma kritumus, kas izraisa sistēmas avāriju maksimālās noteikšanas laikā.

Kameras integrācija nedarbojas

Rpicam{0}}lietotņu Hailo integrācijai ir nepieciešamas noteiktas rpicam versijas. Pirms turpināt problēmu novēršanu, atjauniniet visu, izmantojot sudo apt atjauninājumu un sudo apt jaunināšanu. Dažiem kameras moduļiem ir nepieciešamas konfigurācijas izmaiņas failā /boot/config.txt, lai tie optimāli darbotos ar AI konveijeru.

Nākotnes{0}}ieguldījuma pārbaude

Modulārais dizains nozīmē, ka jūs varat jaunināt neatkarīgi. Šobrīd jūs varētu palaist 70 ASV dolāru AI komplektu ar 13 TOPS. Nākamgad, ja jūsu lietojumprogrammai ir nepieciešama lielāka veiktspēja, nomainiet 26 TOPS AI HAT+ pret 110 USD, neaizstājot Pi 5. Programmatūras komplekts joprojām ir saderīgs ar Hailo-8L un Hailo-8 mikroshēmām.

Hailo turpina paplašināt savu modeļu zoodārzu un uzlabot kompilatoru atbalstu. Modeļiem, kuriem 2024. gada jūnijā bija nepieciešama manuāla optimizācija, tagad ir iepriekš-kompilētas versijas. Šī tendence pieaug, platformai nobriedot. Ekosistēma ap Pi-balstītiem AI projektiem strauji attīstās-forumi, apmācības un trešo pušu rīki, kas katru mēnesi atvieglo ieviešanu.

Programmatūras atjauninājumi nodrošina arī veiktspējas uzlabojumus. Agrīnie etaloni liecināja par dažiem modeļiem, kas darbojās ar X FPS; optimizētie draiveri un programmaparatūras atjauninājumi ir palielinājuši šos skaitļus par 10–20% bez aparatūras izmaiņām. Sekojot jaunākajiem OS un Hailo pakotņu atjauninājumiem, tiek palielinātas jūsu komplekta iespējas.

Bieži uzdotie jautājumi

Vai Raspberry Pi AI komplekts darbojas ar vecākiem Pi modeļiem?

Nē, AI komplektam ir nepieciešams Raspberry Pi 5. PCIe savienojums ir būtisks lielai{1}}joslas platuma saziņai, kas nepieciešama starp centrālo procesoru un akseleratoru. Iepriekšējiem Pi modeļiem trūkst PCIe atbalsta, tāpēc tie nav saderīgi ar šo arhitektūru.

Vai es varu vienlaikus palaist vairākus AI modeļus?

Jā, bet veiktspēja ir atkarīga no modeļa sarežģītības un kadru ātruma. Hailo-8L var laika-pārslēgties starp modeļiem, lai gan, vienlaikus darbinot smagus modeļus, samazinās atsevišķu kadru nomaiņas ātrums. Praktiskajos projektos bieži paralēli tiek darbināts viens paātrināts modelis un viens vai vairāki CPU modeļi.

Cik ilgi aizņem modeļu apkopošana?

Vienkārši modeļi tiek apkopoti 5-15 minūtēs, izmantojot pienācīgu klēpjdatoru. Sarežģīti modeļi ar daudziem slāņiem var aizņemt 30–60 minūtes. Katrs modelis tiek kompilēts tikai vienu reizi, pēc tam izvietojiet kompilēto .hef failu savā Pi. Iepriekš apkopotiem modeļiem no Modeļu zoodārza vispār nav nepieciešama kompilācija.

Vai AI komplekts darbojas bez interneta savienojuma?

Pilnīgi noteikti. Kad esat instalējis programmatūru un apkopojis modeļus, viss darbojas lokāli. Tas padara komplektu ideāli piemērotu konfidencialitātes-jutīgām lietojumprogrammām, attālai izvietošanai vai visur, kur piekļuve tīklam ir neuzticama vai nav pieejama.

Vai es varu apmācīt modeļus tieši AI komplektā?

Nē, Hailo-8L ir tikai secinājumu aparatūra. Apmācībai nepieciešama dažāda aparatūras optimizācija un ievērojami lielāka jauda. Tipiskā darbplūsma ietver apmācību par mākoņa GPU vai darbstacijām ar PyTorch/TensorFlow, konvertēšanu uz ONNX formātu, kompilēšanu ar Hailo rīkiem un pēc tam apkopotā modeļa izvietošanu savā Pi.

Kāda ir atšķirība starp AI komplektu un AI HAT+?

Sākotnējais AI komplekts komplektā M.2 HAT ar Hailo-8L moduli par 70 USD. AI HAT+ ir pārskatīts dēlis ar labāku korpusa savietojamību, kas pieejams vai nu ar 13 TOPS Hailo-8L (70 USD) vai 26 TOPS Hailo-8 (110 USD). Veiktspēja ir identiska 13 TOPS līmenī; izvēlieties, pamatojoties uz pieejamību un to, vai jums ir nepieciešams uzlabots fiziskais dizains.

Kā AI komplekts apstrādā dažādas attēlu izšķirtspējas?

Paātrinātājs apstrādā jebkuru izšķirtspēju, kas tika apmācīta jūsu modelim, -parasti 640 x 640 vai līdzīgu objektu noteikšanai. Jūsu CPU apstrādā kameras ievades izmēru maiņu, lai atbilstu modeļa paredzamajiem izmēriem. Augstākai ievades izšķirtspējai nepieciešams vairāk priekšapstrādes laika, taču tas tieši neietekmē Hailo secinājumu ātrumu, jo modeļa ievades lielums paliek nemainīgs.

Vai Hailo-8L ir saderīgs ar TensorFlow Lite modeļiem?

Ne tieši. TensorFlow Lite modeļi ir jāpārvērš ONNX formātā un pēc tam jāapkopo, izmantojot Hailo datu plūsmas kompilatoru. Tiek atbalstītas daudzas izplatītas TensorFlow Lite arhitektūras, taču konvertēšanas procesā var būt nepieciešami pielāgojumi atkarībā no modeļa sarežģītības un izmantotajām darbībām.

Pirmo soļu speršana

Sāciet ar iepriekš{0}}kompilētajām demonstrācijām, lai izprastu veiktspējas raksturlielumus, pirms iedziļināties pielāgotajos modeļos. Objekta noteikšanas un pozas novērtēšanas paraugi parāda komplekta iespējas, neprasot modeļa apkopošanas zināšanas. Kad esat apmierināts ar aparatūru, eksperimentējiet ar dažādiem Hailo modeļu zoodārza modeļiem, lai atrastu līdzsvaru starp precizitāti un ātrumu jūsu lietojumprogrammai.

Raspberry Pi AI komplekts atspoguļo ievērojamas izmaiņas AI pieejamības ziņā. Pirmo reizi hobiji un maza mēroga{1}}izstrādātāji var izvietot sarežģītas datorredzes sistēmas ar veiktspēju, kas iepriekš prasīja dārgu aparatūru vai atkarību no mākoņa. Raspberry Pi ekosistēmas un Hailo efektīvā paātrinātāja kombinācija rada iespējas, kas līdz 2024. gadam nepastāvēja zem-$100 kategorijā.

Neatkarīgi no tā, vai veidojat viedo drošības kameru, rūpnieciskās pārbaudes sistēmu vai eksperimentējat ar mākslīgo intelektu, AI komplekts nodrošina skaitļošanas zirgspēkus, lai padarītu šos projektus dzīvotspējīgus. Arhitektūra ir pārbaudīta, programmatūra strauji attīstās, un sabiedrība aktīvi veido risinājumus, no kuriem varat mācīties un pielāgoties.