Qualcomm AI Engine

Qualcomm AI Engine

Qualcomm AI Engine(クアルコムAIエンジン)とは、QualcommのSnapdragonプロセッサに統合されたAI処理プラットフォームです。NPU(Hexagon Processor)、GPU(Adreno)、CPU(Kryo)を統合的に活用し、モバイルデバイスやエッジ環境での効率的なAI推論を実現します。

Hexagon NPUの特徴

AI Engineの中核となるHexagon NPUは、ニューラルネットワーク推論に特化したプロセッサです。INT8やINT4の低精度演算に対応し、高いTOPS/W性能を発揮します。Snapdragon 8 Gen 3以降では、生成AIモデル(70億パラメータ規模のLLM)をデバイス上で実行できる性能を備えています。

表:Qualcomm AI Engineの要点まとめ
ひとことで言うとQualcommのSoCに搭載されたAI処理機能の総称。
どこで使うAndroidスマートフォン、AI PC、車載システムでの端末内AI処理。
注意点機種ごとに性能差が大きい。対応するモデル形式の確認が必要。

ヘテロジニアスコンピューティング

Qualcomm AI Engineの特徴は、NPU・GPU・CPUを処理内容に応じて適切に使い分けるヘテロジニアス(異種混合)コンピューティングアプローチです。負荷の軽い処理はCPU、画像処理はGPU、ニューラルネットワーク推論はNPUと、各プロセッサの得意分野を活かすことで、全体的な効率を最大化します。

図:Qualcomm AI Engineの構成
1CPU軽い処理と制御
▶
2GPU並列処理
▶
3NPU(Hexagon)AI処理の本体
▶
4自動で振り分け処理に応じて最適化
▶
5端末内で完結省電力に実行

対応プラットフォームと活用

Qualcomm AI Hubを通じて、TensorFlow Lite、ONNX Runtime、PyTorchなどの主要フレームワークに対応しています。Androidスマートフォンの約半数以上がSnapdragonを搭載しており、カメラのAI処理、音声アシスタント、翻訳、画像生成など、幅広いAI機能を端末上で実現しています。