Mašīnmācība pie malas: TinyML kļūst arvien populārāks

Vai tas ir 61 miljards ASV dolāru un 38,4% CAGR līdz 2028. gadam vai 43 miljardi ASV dolāru un 37,4% CAGR līdz 2027. gadam? Atkarīgs no tā, kurš ziņojums apraksta izaugsmi malu skaitļošana jūs izvēlaties iet garām, bet galu galā tas nav tik atšķirīgs.

Svarīgi ir tas malu skaitļošana plaukst. Pieaug pārdevēju interese un plašs pārklājums, laba iemesla dēļ. Lai gan definīcija kas ir malu skaitļošana ir nedaudz neskaidrs, ideja ir vienkārša. Runa ir par aprēķinu izņemšanu no datu centra un to pietuvināšanu pēc iespējas tuvāk darbības vietai.

Neatkarīgi no tā, vai tie ir atsevišķi IoT sensori, visa veida ierīces,

droni, vai autonomie transportlīdzekļi, ir viena kopīga iezīme. Arvien biežāk malā ģenerētie dati tiek izmantoti, lai barotu lietojumprogrammas, kuras darbina mašīnmācīšanās modeļi. Ir tikai viena problēma: mašīnmācīšanās modeļi nekad netika izstrādāti tā, lai tos varētu izvietot malā. Vismaz līdz šim ne. Ievadiet TinyML.

Tiny mašīnmācība (TinyML) ir plaši definēta kā strauji augoša mašīnmācīšanās tehnoloģiju un lietojumprogrammu joma, tostarp aparatūra, algoritmi un programmatūra, kas spēj veikt ierīces sensoru datu analīzi ar ārkārtīgi zemu jaudu, parasti mW diapazonā un mazāk, tādējādi nodrošinot dažādus vienmēr ieslēgtus lietošanas gadījumus un mērķauditorijas atlasi, kas darbojas ar akumulatoru ierīces.

Šonedēļ, atklāšanas TinyML EMEA tehniskais forums notiek, un tā bija laba iespēja apspriesties ar dažiem galvenajiem cilvēkiem šajā jomā. ZDNet panāca Jevgeņiju Gousevu no Qualcomm, Blēru Ņūmenu no Neuton un Pītu Vordenu no Google.

Sveiki, Google

Pīts Vordens uzrakstīja pasaulē vienīgo ūsu noteikšanas attēlu apstrādes algoritmu. Viņš bija arī starta Jetpac dibinātājs un CTO. Viņš izveidoja A sēriju no Khosla Ventures, izveidoja tehnisko komandu un izveidoja unikālu datu produktu, kas analizēja pikseļus. datus par vairāk nekā 140 miljoniem fotoattēlu no Instagram un pārvērta tos padziļinātos ceļvežos vairāk nekā 5000 pilsētām visā pasaulē. pasaulē.

Uzņēmums Jetpac iegādājās Google 2014. gadā, un kopš tā laika Warden ir Google personāla izpētes inženieris. Toreiz Warden jutās diezgan labi par sevi, jo spēja ievietot mašīnmācības modeļus divos megabaitos.

Tas bija līdz brīdim, kad viņš atklāja, ka dažiem viņa jaunajiem Google kolēģiem ir 13 kilobaitu modelis, ko viņi izmantoja, lai atpazītu modināšanas vārdus, kas vienmēr darbojas DSP Android ierīcēs. Tādā veidā galvenais CPU nedega akumulatoru, klausoties "to" pamošanās vārds -- Sveiki, Google.

"Tas mani ļoti satrieca fakts, ka jūs varētu darīt kaut ko patiešām noderīgu šajā mazākajā modelī. Un tas tiešām lika man domāt par visām citām lietojumprogrammām, kas varētu būt iespējamas, ja mēs varētu īpaši palaist visas šīs jaunās mašīnmācīšanās, dziļās mācīšanās pieejas, ”sacīja Warden.

Lai gan Vārdenu bieži vien atzīst viņa vienaudži kā mašīnmācības apakšdomēna TinyML aizsācēju., viņš par to ir diezgan pieticīgs. Viņš atzīst, ka liela daļa no tā, ko viņš darīja, bija balstīta uz lietām, pie kurām jau strādāja citi: "Daudz no maniem ieguldījums ir palīdzējis publiskot un dokumentēt virkni šo inženiertehnisko prakšu, kas ir radušās. viņš teica.

TinyML, eksponenciāla izaugsme

Jevgeņijs Gousevs ieradās ASV no Krievijas vairāk nekā pirms 25 gadiem īsā vizītē. Viņš nekad neplānoja palikt, bet šodien viņš ir šeit, strādājot par Qualcomm vecāko direktoru. Gusevam ir pieredze fizikā un akadēmiskajā vidē, kā arī IBM pirms Qualcomm.

Gusevs tikās ar Vordenu 2018. gadā, un viņš apraksta, ka redzējis, kas bija iespējams, izmantojot metodes, pie kurām Vordens strādāja, kā acu atvēršanas pieredzi:

Kad Pīts parādīja, ko jūs varat darīt šeit, jūs varat kvantēt savu modeli, un jūs varat palaist dziļas mācīšanās modeli ar 8 bitiem, un, īpaši neapdraudot precizitāti, tas bija kā acu atvēršanas pieredze visai kopienai. Tas bija kā - oho, vai tas ir iespējams? Tā bija sava veida domāšanas veida maiņa.

Gusevs un Vorens sadarbojās, un viņi sāka domāt par to, kā izplatīt informāciju par to, kam, viņuprāt, ir milzīgs potenciāls. Viņi vēlējās izveidot ekosistēmu ap TinyML. Viņi sāka zvanīt kolēģiem un draugiem, dalīties un socializēt savas idejas.

Pirmais solis bija organizēt TinyML sesiju Google pilsētiņā. Sākotnēji viņi bija noraizējušies, vai telpā varēs dabūt 30 cilvēkus. Pēc pāris mēnešiem pasākumam jau bija vairāk nekā 200 cilvēku. Kopš šī brīža tas ir bijis diezgan eksponenciāls pieaugums, un TinyML notikumi jau ir sasnieguši 5000 dalībnieku atzīmi.

Pakalpojumu sniegšana jūsu klientiem

The TinyML fonds tika izveidots, un atklāšanas TinyML sammitā 2019. gada martā tika izrādīta ļoti liela sabiedrības interese, kurā aktīvi piedalījās 90 uzņēmumi. Tas parādīja, ka ar TinyML spējīga aparatūra kļūst "pietiekami laba" daudzām komerciālām lietojumprogrammām, un ir gaidāmas jaunas arhitektūras (piemēram, aprēķini atmiņā).

Tas arī parādīja, ka tiek panākts ievērojams progress attiecībā uz algoritmiem, tīkliem un modeļiem līdz 100 kB un mazāk, un tika parādītas dažas sākotnējās mazjaudas lietojumprogrammas redzes un audio telpā. Šeit ir vērts uzsvērt dažus punktus.

Pirmkārt, tika apspriesta un zināmā mērā joprojām tiek apspriesta darba definīcija, kas veido TinyML. Svarīgi ir tas, kā ierīces var izvietot uz lauka un kā tās darbosies, sacīja Gousevs. Tas būs atšķirīgs atkarībā no ierīces un lietošanas gadījuma, taču galvenais ir tas, ka tas vienmēr ir ieslēgts un nav jāmaina baterijas katru nedēļu. Tas var notikt tikai mW diapazonā un zemāk.

Lai gūtu panākumus, jums ir jāspēj nodrošināt, ka jūsu pakalpojumi ir pieejami klientiem. Šādi to izteica Blērs Ņūmens, iemiesojot Neitona pieeju. Ņūmens, vēl viens pieredzējis eksperts, kas strādājis Sun Microsystems, Verizon un T-System, ir Neuton CTO kopš 2015. gada.

Vēl 2018. gadā, Neitons izraisīja uzplaiksnījumu, paziņojot par neironu tīkla sistēmu apgalvojot, ka tas ir daudz efektīvāks nekā jebkurš cits tirgū pieejams ietvars un neironāls algoritms. Neuton slepenā mērce ir saistīta ar tīkla arhitektūras izveidi, un tas padara to nozīmīgu arī TinyML, sacīja Ņūmens:

Mēs sākām izmantot mazliet atšķirīgu pieeju, veidojot mūsu mērķim atbilstošus modeļus. Tā vietā, lai apaļā caurumā ievietotu kvadrātveida tapu, lai nodrošinātu, ka modelis var iekļauties aparatūras ierīcē, mēs veidojam visus savus modeļus, kas ir raksturīgi konkrētam lietošanas gadījumam.

TinyML tikai sāk darbu

Ņūmens atsaucās uz Neutona patentēto pieeju kā tīkla arhitektūras neironu veidošanu pa neironiem, kā rezultātā rodas kaut kas, kas ir optimizēts ne tikai veiktspējai, bet arī izmēram. Viņš piebilda, ka tie var būt līdz pat 100 reizēm mazāki, un mērķis ir nodrošināt to pašu mašīnmācīšanās modeli datu centrā un malās.

Tomēr kopumā TinyML ir guvis lielu labumu no daudzu nozares cilvēku darba, kā arī pētniecībā ar tādām metodēm kā binārie tīkli, kvantēšana, atzarošana, klasteru veidošana un destilācija. TinyML iestādes mērķis ir būt atvērtai un iekļaujošai, kā arī radīt ikvienam pieejamus rezultātus. Noslēgumā visi bija vienisprātis, ka mēs tikai sākam saskrāpēt to, kas ir iespējams ar TinyML.

Lai gan mūsdienās TinyML tiek izmantots tikai mašīnmācības secinājumu daļai, Gūsevs, Ņūmens un Vordens uzskata, ka pēc 5 gadiem mēs sāksim redzēt arī apmācību. Tādas metodes kā federatīvā mācīšanās tur būs arvien svarīgāka.

Gusevs, Ņūmens un Wardens ir pieredzējuši eksperti, kuru prasmes un pieredze pārsniedz inženierzinātnes. Viņi visi bija vienisprātis, ka brīdinājumi attiecas uz jebkuru mašīnmācīšanās lietojumprogrammu, piemēram, datu kvalitāti un daudzums, datu cauruļvadu izveide un vajadzīgās zināšanas organizācijā, pieteikties TinyML, arī.

Neatkarīgi no tā, vai tā ir bišu stropu uzraudzība Kenijā vai viedo rūpnīcu celtniecība, galu galā lietojumprogrammas pārsniegs to, ko tehnologi var iedomāties. Tā tas notika iepriekš ar pamata tehnoloģiju, un tas ir tas, ko cilvēki, kas tic TinyML, redz arī šeit.