Edge Impulse иска да предостави машинно обучение на ръба на всички, обявява $34M финансиране от серия B

Мечтата на Jan Jongboom, по собствените му думи, беше да има устройства, които наистина разбират какво се случва около тях. Това беше преди десет години, но едва през 2019 г. той започна наистина да действа по него. Тогава Jongboom и Zach Shelby основават Краен импулс с мисия да даде възможност на разработчиците да създадат следващото поколение интелигентни устройства.

Днес Edge Impulse обявява 34 милиона долара финансиране от серия B, водено от Coatue, утроявайки своята пазарна оценка за 2022 г. и прогноза за растеж. Coatue се присъединява към съществуващи инвеститори, Canaan Partners, Acrew Capital, Fika Ventures, Momenta Ventures и Knollwood Investment Advisory, за да завърши това, което екипът нарича "невероятна година".

От стартирането му през 2019 г. близо 30 000 разработчици от хиляди предприятия са създали близо 55 000 персонализирани проекта за машинно обучение използване на Edge Impulse, изграждане на по-интелигентни промишлени, логистични, потребителски и здравни решения с клиенти, включително Oura, Polycom, Advantech и НАСА. Базата му от разработчици се е увеличила с 4 пъти, като годишните периодични приходи са нараснали с 3 пъти през последната година.

Всичко това звучи доста впечатляващо и е свидетелство за прогнозата на Gartner, че „до 2027 г. машинното обучение под формата на задълбочено обучение ще бъде включено в над 65% от крайните случаи на използване, спрямо по-малко от 10% в 2021". Свързахме се с Jongboom, за да научим повече за Edge Impulse.

Правене на тъпите IoT устройства полезни

Отправната точка на Jongboom и Shelby е това IoT устройства са страхотни, но са и тъпи. Те могат да записват времеви серии от различни видове сензори, като температура или звук, например, но нямат представа какво означава това или как да направят нещо полезно от него.

Когато Jongboom се срещна с Shelby в Arm, където и двамата работеха преди около три години, те започнаха да говорят какво могат да направят, за да накарат тези устройства наистина да разберат света. Те бързо стигнаха до заключението, че машинното обучение е отговорът.

Jongboom използва ограничаването на бракониерството като пример за приложение. Ако искате да използвате IoT устройство, за да откриете, че наоколо има слон, каза той, имате две възможности. Първият е да се опитате да създадете програма, която описва какво е слуховото въвеждане на слон. Второто е да използвате проби от звуци на слонове и да оставите модел за машинно обучение да го разбере.

Edge Impulse е специализирана в машинно обучение за IoT устройства. Това означава, че те трябва да прилагат стандартния жизнен цикъл на машинно обучение: събиране на данни -- обучаване на модел -- разгръщане на модел -- валидиране на модела -- повторение. Нека да видим как се приспособяват към всяка стъпка в този процес.

Чудехме се какви устройства или сензори поддържа Edge Impulse за частта за събиране на данни. Jongboom спомена, че тяхната екосистема от партньори, варираща от разработчици на микроконтролери до суперспециализиран силикон за машинно обучение, поддържа „всичко под слънцето“.

Има няколко фактора, които трябва да вземете предвид, когато размишлявате как компания, основана през 2019 г., би могла да създаде такова екосистема до 2021 г. Фактът, че основателите на Edge Impulse са започнали като разработчици на вградени системи, като Шелби преди това е продал стартъпа си за IoT на Arm, им е дал преднина, според Jongboom. Те знаеха какво искат разработчиците и знаеха как да достигнат до доставчиците на хардуер. Освен това те направиха приемането на данни с отворен код и лесно за използване:

„Това беше наистина добра история, в която можем да помогнем на доставчиците на силиций да излязат на пазара и след като имаме силиций, с който да работим. Това означава, че можем заедно да отидем при клиентите и да имаме много по-добра история. Не е... О, имаме тази невероятна платформа за машинно обучение. Това е -- имаме тази невероятна платформа за машинно обучение и всъщност имаме поддръжка от доставчиците на силиций, които вече ще работят на вашите изоставени устройства. Това е наистина невероятно", отбеляза Джонгбум.

Съберете данни, обучете модела, внедрите модела, валидирайте модела, повторете

Що се отнася до обучаващите модели за машинно обучение като част от процеса, Edge Impulse използва предимно готови рамки като TensorFlow. Идеята е да се абстрахира възможно най-много, като се стреми да направи генерирането на модели възможно най-удобно за хората, които са експерти в областта.

Целта, каза Jongboom, е да се дадат на експертите в домейна инструментите за събиране на данни, след което да анализират за аномалии или да класифицират какво се случва или да предскажат бъдещето. И това не е само машинно обучение, но и обработка на сигнали, защото "обработката на сигнали е наистина хубава и обяснима".

Работният кон на Edge Impulse е TensorFlow, използван чрез Keras. Ако имате специалист по данни на борда, страхотно, можете да редактирате модела колкото искате. Ако не, не е нужно. Така че може да бъде всичко от нисък код до пълна свобода. И да, ниската препратка към кода означава, че има IDE на снимката тук -- Studio.

Edge Impulse Studio е онлайн IDE, а също и там се случва частта от процеса на валидиране. Jongboom отбеляза, че това е наистина важно за машинното обучение като цяло и още повече за крайните приложения. Това е така, защото ако разположите нещо на устройство или машина, може да бъде наистина трудно да коригирате грешки в оперативните настройки.

Edge Impulse позволява на потребителите да качват реални данни, които да използват за валидиране, и може също да генерира синтетични данни. И също така им позволява да се намесват и ръчно да правят корекции фалшиви положителни или фалшиви отрицателни резултати, в зависимост от вида на приложението. Понякога е от решаващо значение определени събития да бъдат идентифицирани, дори с цената на фалшиви аларми, а понякога е добре да пропуснете нещо.

Въпросът, отбеляза Jongboom, е да се създават проницателни приложения и да се вдъхва доверие. Ако някой прегледа данните, подпомогнати от модела за машинно обучение, много по-лесно се виждат слабите места.

Последната стъпка в процеса – внедряването – в момента е донякъде извън границите на Edge Impulse. Edge Impulse извежда изходния код. Това включва математическия модел, кода за нормализиране, кода за обработка на сигнала, кода за машинно обучение и цялата настройка на модела след обработка.

Няма компилирани двоични файлове, нито хонорари за това, каза Jongboom. Как потребителят интегрира това в устройството си зависи от тях, добави той. Въпреки това, отбеляза Jongboom, екосистемата също играе роля в това и може да бъде толкова просто, колкото два реда код. Тази част също е с отворен код.

Edge Impulse EON: Тайният сос за оптимизиране на модели за машинно обучение за edge

Частта, за която не сме говорили досега и е централна за Edge Impulse и не е с отворен код, е TinyML част. TensorFlow или всяка друга рамка по този въпрос може да създаде модели, които не са подходящи внедряване на крайни устройства поради ограниченията на тези устройства по отношение на мощността и обработката възможности.

Това е мястото, където EON (Edge Optimized Neural) на Edge Impulse влиза в действие. Това е технологията, която Edge Impulse използва за създаване на модели за машинно обучение, подходящи за внедряване в ограничени устройства на ръба. Първото нещо, което прави, е, че взема предвид всички параметри на целта за внедряване и прави две неща.

Първо се включва тунерът EON. Jongboom описа това като "супер широка база за търсене от 1000 различни модела, които можем да изпробваме". Тунерът EON разглежда тези, които могат да се поберат на целевото устройство за разгръщане, и след това избира това с най-висока точност.

След това компилаторът EON ефективно компилира невронни мрежи към изоставени устройства. Начинът, по който работи, каза Джонгбум, е, че моделът за машинно обучение се захранва с интерпретатор, който изгражда графика и изпълнява извода. Но това е разточителна вградена система, защото трябва да имате интерпретатора плюс всички потенциални състояния, които интерпретаторът може да конструира.

Компилаторът EON просто компилира графиката до изходния код и след това я компилира. Това спестява между 30 и 50% от RAM, което е много, особено в Brownfield устройства. Компилаторът е достъпен за използване, а моделите, които хората генерират, също са с отворен код, лицензирани под Apache 2.0 лиценз, така че там няма хонорари. Някои хора всъщност избират да споделят своите модели с общността.

Edge Impulse е платформа за софтуер като услуга. Клиентите плащат на проект на месец или на канал за данни на месец. Те също така плащат за повече изчисления, функции за сътрудничество, широкомащабна трансформация на данни и интеграция с вашия облак, за да изтеглят данните и да ги приемат.

Edge Impulse в момента има екип от 40 души. Целта е да се използва това финансиране от серия B, за да нарасне до 80 през следващата година, с акцент върху екипа за инженерни решения. Jongboom каза, че те също се стремят да продължат да разрастват общността и подкрепата по същия начин и да поддържат своя органичен растеж.