エッジAI実装における速度・精度・システムコストの最適化

エッジAIの豊富な実装経験で、技術とノウハウを蓄積

AIの実用化に向けて不可欠な技術であるエッジAI。エッジAIは、端末(エッジ)の機器に直接搭載したAIのことで、端末側でデータ処理を行うことですぐに結果を把握できることから、リアルタイムでの解析や判断が求められる分野に向いています。例えば、自動運転における歩行者や自動車の物体検知や、工場の監視カメラによるリアルタイムな異常検知など、さまざまな分野で活用が広がっています。エッジAIの開発では、AIの処理速度や精度、コストなどの最適化が求められ、推論チップの選定やAIモデルの軽量化など実装に向けて技術とノウハウが必要です。
リコーでは、実現したい機能に合わせて、推論チップの選定からアプリケーション実装まで一気通貫で行っており、技術とノウハウを蓄積しています。

困り事/実践効果

困り事 実践効果
必要な機能・性能を満たすエッジAIの実装方法が分からない。 推論チップの選定からAIモデルの最適化・実装までを一気通貫で行い、エッジAI開発を最適化できる。
採用した推論チップでは所望の性能(推論速度)を満たせない。 プルーニングや量子化等の技術でAIモデルを軽量化し、また、推論チップの特性に合わせた最適化により、精度の劣化を抑えつつ、性能を満たすシステムを開発できる。

設計現場での困り事・課題

必要な機能・性能を満たすエッジAIの実装方法が分からない

エッジデバイスへのAI機能実装では、以下3点を同時に最適化する必要があります。特に、処理速度と精度はトレードオフの関係にあり、バランスが取れたAIモデルを作るには、専門的なノウハウ・技術が必要です。

  • 推論性能(処理速度)
  • 推論精度
  • システムコスト

採用した推論チップでは所望の性能(推論速度)を満たせない

リアルタイムでの解析や判断には、推論速度が重要です。推論速度を向上するには、推論チップの特性を把握した上で、さまざまな手法を組み合わせてAIモデル及びシステムを作る必要があります。

解決したこと

推論チップの選定からAIモデルの実装までを一気通貫で行い、最適なエッジAI実装を実現

リコーは、これまでさまざまな商品のエッジAIの実装を自社で行っており、独自の技術とノウハウがあります。求めるAIシステムに適したデバイスの選定から、デバイスに適したモデルの最適化・軽量化、アプリケーション実装まで一気通貫で行い、速度・精度・コストの条件を満たすエッジAI実装を実現しています。
このノウハウは、業種を問わず、エッジデバイスへのAI機能の実装に不安がある方や、実装したAIの処理を高速化したいという方などに展開可能です。プルーニングや量子化などの技術でAIモデルを軽量化し、また、推論チップの特性に合わせて最適化することにより、精度の劣化を抑えつつ、性能を満たすシステムの開発が可能です。

推論チップの選定からAIモデルの実装までのフローを表した図

例:物体検出モデルの軽量化

カメラの撮影情報から人を検出するエッジAI開発では、AIの処理が遅いという課題がありました。そこで、モデルの軽量化手法の一つである 「チャネルプルーニング」などを適用し、軽量化・高速化することで、精度を落とすことなく、2倍以上の速度向上を達成しました。

物体検出モデルの軽量化を示したグラフ

さまざまなデバイスへのエッジAIの実装経験

各種FPGA、NVIDIA® Jetson™、Hailo-8™、Google Edge TPU™、インテル® Movidius™ Myriad™ X などへの実装実績があります。
また、FPGAについてはAI推論回路及び、AIモデルコンパイラ、デプロイソフトウェアなどの開発実績もあります。

こんな方にお役立ちできます

  • エッジデバイスへのAI機能の実装方法が分からない、不安がある。
  • トータルのシステムコストを抑えるために、最適なデバイスを選定したい。
  • 選定したエッジデバイスに適したAIモデルを開発したい。
  • エッジデバイスにAI機能を実装したが、処理速度が遅いため高速化したい。

お問い合わせ

製造業の現場での困り事をお伺いし、課題解決につながるご提案をいたします。
お気軽にお問い合わせください。

PAGE TOP