roobrief開発者のためのITニュース
検索

文 ハードウェア

Raspberry Pi 5向けDEEPX NPU HAT、どこまで使えるか

Raspberry Piは10月5日、公式ブログで韓国のDEEPXのNPUを載せたSixfab AI HAT+を紹介した。いま買えるのは25 TOPSのDX-M1Mで、価格は90ドル（約1.4万円）だ。

NPUはニューラルネット演算を専門に担うチップ内アクセラレータ、オンデバイスAIはクラウドではなく端末上でAIを動かす方式を指す。TOPSは毎秒1兆回の演算回数で、アクセラレータの速さを測るおおまかな目安になる。このボードはSixfabとDEEPXが6月26日に発表済みで、今回のRaspberry Piの記事は新発売ではなく紹介という位置づけだ。

オンデバイスで何ができるか

軽いモデルならPiのCPUだけでも動く。Raspberry Piはアクセラレータを、CPUでは荷が重い少数の処理向けと見ており、典型は常時稼働のカメラ、ロボット、産業機器だ。消費電力が約3WのNPUなら、そうした処理をクラウドとのやり取りなしで回し続けられる。ただし3WはNPU単体の典型値で、Pi 5とHATを合わせて負荷をかけるとSixfabの数字で13〜15W台になる。公式の27W電源アダプターが推奨されている。

できることの範囲は狭い。人・車・姿勢を見分ける、短い説明文を付ける、音声の一言をコマンドに変える、といったところだ。世界の知識を問う質問や長い対話はクラウドの役目で、Raspberry Piも同じ線引きをしている。

TOPSのクラスごとにできること

13 TOPS級は、カメラ1台・モデル1つが基本になる。人かどうか、どこを見ているか、どんな姿勢かを判定する。公式AI HAT+のHailo-8Lがここにあたり、70ドル（約1.1万円）だ。DEEPXの13 TOPS版（DX-M1ML、63ドル、約1.0万円）は第4四半期の出荷予定で、まだ買えない。

25 TOPS級は、複数のモデルを同時に載せる級になる。同じ画面で検出と姿勢推定や領域分割を回す、カメラを複数台つなぐ、といった使い方だ。DEEPXのHATはここで、公式のHailo-8は26 TOPSで110ドル（約1.7万円）。Raspberry Piは2024年に最初のAI HAT+を発表したとき、13と26 TOPSでできる仕事の種類は同じで、26ならより大きなネットワークや複数モデルの並列実行ができると説明していた。

40 TOPS級になると短い文章も扱える。公式のAI HAT+ 2（Hailo-10H）はINT4基準で40 TOPS、オンボードメモリは8GBで、ドキュメントには短いキャプションや音声のコマンド変換が載っている。発売時は130ドル（約2.1万円）だったが、公式ページの現在価格は200ドル（約3.2万円）だ。

クラス できること 例
13 TOPS カメラ1台の映像解析 公式AI HAT+ 70ドル（約1.1万円）
25〜26 TOPS 複数モデル・複数カメラ DEEPX 90ドル（約1.4万円）、公式110ドル（約1.7万円）
40 TOPS（INT4） 短い文章・音声まで 公式AI HAT+ 2 200ドル（約3.2万円）

TOPSは同じ物差しでは測れない。DEEPXの25はINT8、AI HAT+ 2の40はINT4基準だ。Orange Pi 6の45 TOPSはCPU・NPU・GPUの合算で、NPU単体は28.8 TOPSになる。Banana Pi AIM7のNPUは最大6 TOPSだ。

開発者が実際に選ぶ道

実際の選択は、ソフトウェアへの道のりの短さで決まる。

カメラや防犯用途なら、公式のHailoだ。Raspberry Pi OSのrpicam-appsとPicamera2はHailoのNPUを自動で使う。映像を保存して人や車を見分けるオープンソースのFrigateも、Hailo-8と8Lを検出器として対応している。Jeff Geerlingは、70ドルのHailo-8Lでカメラ2台を動かし、検出が約12ms、CPU使用率は低かったと書いている。Frigateは新規導入にCoralをもう勧めていない。

言語モデルだけが必要なら、NPUのHATは正解でない場合がある。GeerlingはAI HAT+ 2で文章生成を測り、Pi 5のCPUのほうが速かったとしている。HATが強いのは、CPUを空けたままカメラと短い文章を同時に動かす構成だが、発売直後はその組み合わせがサンプル不足で失敗したという。一方Hailoは、最初のトークンが出るまでの時間はHATのほうがずっと短いという数字を出している。2つの数字は測っているものが違う。

DEEPXでは、モデルをONNX（学習フレームワーク間でモデルをやり取りする共通ファイル形式）に変換し、INT8に量子化して（モデルの数値を低いビットに縮めて）チップ用の.dxnnファイルにコンパイルする。コンパイルはx86_64のPCで行い、実行はボード上のランタイムが担う。Raspberry Piのベンチマーク（Pi 5・8GB）ではmobilenet_v2が2,361 FPS、deeplabv3plusが155 FPSだった。SixfabはYOLOv8nの640×640で30〜35 FPSと案内している。rpicamやFrigateへの組み込みはHailoほど進んでいない。

Orange PiやBanana PiはNPUがチップ内にあるため、HATを別に買う必要はない。

確認できなかった点

  • Raspberry Piの記事はこのHATでQwen3-1.7Bを動かしたベンチマーク（DX-M1Mで4.64 tok/s）を載せているが、Sixfabの製品ページのFAQは、DX-M1Mは現状ビジョン用で言語モデルには対応しないと書いている。どちらが正しいかは確認できなかった。
  • FrigateがDEEPXを公開ドキュメントに載せたかどうかも確認できていない。安定版のドキュメントにあるのはHailoだけだ。
  • DEEPXのHATはCEやFCCなどの認証が進行中で、使えるのはPi 5だけだ（Pi 4、CM4、CM5 IO Boardは不可）。

いま確認すること

以下は公開スペックと使用レポートをもとにした筆者の推測と助言だ。

  • カメラだけなら、まず70ドルのHailo-8Lを見る。 HailoのHailo-8（26 TOPS）やDEEPXの25 TOPSは、複数モデルや複数ストリームが必要なときの選択肢になる。
  • 文章が必要なら、メモリと生成速度を一緒に見る。 DEEPXのHATをその目的で買う前に、ブログとFAQの食い違いを確かめる。
  • 自分のモデルがそのチップの形式にコンパイルできるかを先に確かめる。 HailoとDEEPXのファイルは互換性がない。

今後の注目点

DEEPXの13 TOPS版が実際に出荷されるか、Raspberry PiとSixfabが言語モデル対応の説明をどう揃えるか、FrigateがHailo-10HやDEEPXを公開ドキュメントに載せる時期だ。

為替レートは2026年10月20日時点。

出典

出典: www.raspberrypi.com

← 戻る