エッジでの機械学習: ハードウェアとソフトウェアのエコシステム

エッジコンピューティングが急成長しています。 コンピューティング機能をデータセンターから取り出し、データが生成される場所にできるだけ近づけるというアイデアは、大きな注目を集めています。 エッジコンピューティングの成長予測 CAGR 40%、500 億ドルの領域にあります。

スタンドアロンの IoT センサー、あらゆる種類のデバイス、 ドローン、 または 自動運転車, 共通点が1つあります。 ますます、 エッジで生成されたデータはアプリケーションにフィードするために使用されます 機械学習モデルを活用しています。

タイニーML は、エッジでの機械学習の動作を可能にする機械学習テクノロジーとアプリケーションの急速に成長している分野です。 これには、非常に低電力でオンデバイスのセンサー データ分析を実行できるハードウェア、アルゴリズム、ソフトウェアが含まれているため、さまざまな常時稼働のユースケースが可能になります。

TinyML が機能するためには、ハードウェアとソフトウェアの融合が必要であり、倹約的なエネルギー需要の概念に基づいて構築されたエコシステムを作成します。 これはエッジのアプリケーションの前提条件です。

今日 腕エコシステムの構築とプロセッサー向けの節約エネルギー需要に重点を置いていることで知られる世界的な半導体 IP プロバイダーが、との提携を発表しました。 ニュートン、自動化された TinyML プラットフォームのプロバイダーです。 9月初めに、 アリフ・セミコンダクターズ、別の Arm パートナーの建物 AIチップ エッジ向けに、新しい製品ラインをリリースしました。

ZDNet Alif のシニア マーケティング マネージャーである Henrik Flodell 氏、エコシステム ディレクターの Philip Lewer 氏に話を聞きました。 Arm の開発者関係担当者、機械学習担当者、および Neuton の CTO であるブレア ニューマン氏はいずれも、この分野の経験豊富な専門家です。 埋め込まれた空間。 私たちは、それぞれのサービスと、エッジでの機械学習のエコシステムを実現するために何が必要かについて話し合いました。

Arm、AI エコシステムを構築

Arm は 1,000 を超えるパートナーを持つエコシステムのチャンピオンです。 ルワー氏によると、これが同社が自社の技術に基づいて1900億個以上のチップを世界中に出荷できた主な理由だという。

Arm チップは、クラウド データセンターからラップトップ、ウェアラブルからドローンに至るまで、あらゆる場所で使用されています。 ルワー氏の説明 ArmのAIプラットフォーム 「AIの実現を可能にするテクノロジーとパートナーシップの集合体」として。

Arm の場合、基盤はハードウェア レベルにあり、 AIプラットフォームArm Cortex CPU から Mali GPU、Ethos NPU、microNPU まで、あらゆるものが含まれます。 Cortex-M ファミリは非常に人気のある選択肢であり、多くの場合、マイクロコントローラーや他のチップに組み込まれています。 Arm の Ethos-U プロセッサ シリーズは、特に低電力デバイス向けの機械学習推論に重点を置いています。

Alif が最近発表した Ensemble™ および Crescendo™ 製品ファミリー ArmのCortex-Mも利用します。 アンサンブル チップは、スマート ホーム製品、家電製品、POS、 ロボット工学、およびエッジの他のアプリケーション。

Alif は 2019 年に設立され、Flodell 氏は、その動機は「最新のプラットフォームに基づいて、新しいプラットフォームをゼロから開発すること」だったと述べました。 ユビキタス無線接続や AI や機械学習によるエッジ処理などの機能を実際に実現するテクノロジー 能力」。

機械学習の高速化と多層セキュリティは、Ensemble と Crescendo の両方が共有する重要な機能です。 Crescendo ファミリは、Alif 氏が述べているように、接続機能と位置決め機能も提供します。 スマートシティ、接続されたインフラストラクチャ、資産追跡、ヘルスケアデバイス、ウェアラブルに適しています アプリケーション。

2018年に遡ると、 Neuton がニューラル ネットワーク フレームワークを発表して話題を呼んだ 市場で入手可能な他のフレームワークや非ニューラル アルゴリズムよりもはるかに効果的であると主張しています。

ニューマン氏は次のように述べているが、 ベルインテグレーター、背後のベンダー Neuton フレームワークは 17 年余りの歴史がありますが、ゼロコード SaaS ソリューションの構築に注目したのは約 6 年前でした。

Newman 氏は、これまで Bell Integrator は利用可能なすべての「従来の」機械学習フレームワークを活用してきたと付け加えました。 しかし、資源不足の問題は常に対処が困難でした。 機械学習モデルを構築することと、それを実稼働環境、特にエッジにデプロイすることは別のことです。

Neuton、ゼロからノーコード機械学習モデルを構築

Newman 氏は、確立された機械学習フレームワークの性質に反する Neuton のアプローチの 2 つの側面を強調しました。 まず、ノーコードの側面で、データ サイエンティスト以外でもモデルを構築できるようになります。 2 番目に、Neuton の機械学習モデルが採用するカスタム アーキテクチャ:

「これらのモデルは作成されるとすぐに、何の操作も行わずにすぐにマイクロコントローラーに統合できます。 当社の顧客は、技術的なスキルがなくても、機械学習をエッジに導入するライフサイクル全体を実際に経験できるようになりました」とニューマン氏は述べています。

Neuton は、コンパクトで正確なモデルを構築するアプローチを Arm のパートナー エコシステムに参加するよう招待されました。 TinyML EMEA テクニカル フォーラム 2021. Armのパートナーエコシステムの全体の目的は、さまざまな機能を実現する企業を結びつけることだとルワー氏は語った。

アリフとニュートンがその好例であり、ルーワー氏は続けて付け加えた。 Alif は Arm の Cortex 設計を革新的な方法で活用していますが、ユーザーにとっての本当の疑問は、Alif のチップに機械学習モデルをどのように展開するかです。

「特に従来のプログラミングのバックグラウンドに近い開発者にとって、そのギャップを機械学習の世界に埋めることは非常に重要です。 そこに Neuton のような人がやって来て、「そこが我々が適しているところだ」と言うのです。 満足している顧客と満足しているパートナーがいれば、それが成功を評価する方法です。」

アームはアリフにとって自然なパートナーだった。 Flodell 氏も、彼らは優れた知財を持っており、エコシステムの実現に重点を置いているため、これに同意しました。 人々はこれらのデバイスを手に入れたらすぐに、生産性を高めることができるようになります。 彼ら"。 フロデル氏は語った。

Alif 製品ラインの出力特性には特別な注意が払われています。 当然のことながら、Crescendo ラインなどの接続機能が統合されたチップは、Ensemble などと比較してより高い電力要件が必要になると Flodell 氏は説明しました。

すべては、ネットワークに参加するためだけにどれだけの電力を消費しているかということになりますが、これが Alif が最適化に焦点を当てた部分です。 この点に関して、同氏は、Alifのベンチマークは、Crescendoが同様の特性を持つチップよりも2～3倍倹約的であることを示しており、これは単にアプリケーションがより長時間実行できることを意味すると付け加えた。

Alif、制約のある環境向けの組み込みコントローラーを構築

エッジにデプロイされたアプリケーションの場合、バッテリー消費量が実際に重要であるとニューマン氏は結論付けました。 Neuton のアプローチは、「ニューロンごとに [モデル] をゼロから構築する」ことです。 モデルを一度構築するだけで済み、精度を損なうことなく非常にコンパクトなモデルが得られます。」

Neuton はパートナーシップ ゲームには比較的新しい企業です。 しかし、ニューマン氏はArmとのパートナーシップが機械学習の民主化というNeutonの目標にとって戦略的なものであると認識した。 Lewer 氏と Arm 氏にとって、パートナーシップは戦略の重要な部分であり、今後も戦略を発展させていく予定です。 Armには多くのパートナーがいるが、数字がすべてではない、とルワー氏は語った。

「本当に大切なのは、こうしたパートナーシップを効果的なものにすることであり、それは身を寄せることを意味します。 私たちは各パートナーとかなりの時間を費やして、共通点を見つけるために、彼らがどこに行こうとしているのかを理解しようとしています。」

エッジでの機械学習について話すとき、リソースに制約のある環境で作業できることが重要であるとフロデル氏は述べています。 AI の歴史はデータセンターに結びついていますが、これは変化する必要があります。 エッジにおける現実世界の AI アプリケーション:

「場合によってはメモリが 1 メガバイトにも満たないマイクロコントローラーとして構成されたものをスケールダウンして実行したい場合、それ自体が課題になります。

それに加えて、AI はある意味、組み込みシステムの設計者が経験する従来の開発とは大きく異なります。 適切な結果を生み出すためにモデルを調整する方法を理解することは、まだデータ サイエンティストの領域です。

Arm のパートナーシップ活動を活用して Neuton のような企業とつながることができれば、そのギャップを埋めることができるはずです。 データサイエンティストと組み込み開発者の専門知識が融合し、モデルとテクノロジーが制約に適合するようにします。 システム。

それが本当に課題なのです。 それを克服できれば、このテクノロジーの採用に向けた水門が開かれるでしょう。」