Intel Gaudi（インテル・ガウディ）とは、IntelがAIの学習・推論向けに開発した専用アクセラレータプロセッサです。2019年にIntelが買収したHabana Labsの技術を基に開発され、コスト効率の高いAIアクセラレーションを目指しています。
Gaudiの技術的特徴
Gaudiは、行列演算エンジン（GEMMエンジン）とTensor Processor Coreを搭載し、ディープラーニングの学習と推論を効率的に処理します。特にGaudi 2以降はTransformerモデルへの最適化が進み、大規模言語モデルの学習にも対応します。チップ内蔵のRoCE（RDMA over Converged Ethernet）により、分散学習のスケーラビリティにも優れています。
| ひとことで言うと | IntelのAI学習・推論向けアクセラレータ。 |
|---|---|
| 何がうれしいか | ネットワーク機能を内蔵し、複数台の連結が比較的しやすい。 |
| 注意点 | エコシステムはNVIDIAに及ばない。使うフレームワークの対応確認が必須。 |
Gaudi 3の進化
Gaudi 3は5nmプロセスで製造され、前世代と比較してAI学習性能が大幅に向上しています。FP8演算に対応し、HBM2eメモリを搭載することで、大規模モデルの効率的な処理を実現しています。Ethernetベースのネットワーキングにより、InfiniBandに依存しないスケーラブルな構成が可能です。
1AI演算に特化学習と推論の両対応
▶
2通信機能を内蔵外部スイッチが不要
▶
3拡張しやすい台数を増やしやすい
▶
4対応状況を確認ソフト面が選定の鍵
競合との位置づけ
NVIDIA GPUやAMD Instinctと比較してコスト効率の良さを訴求しており、特にクラウドサービスプロバイダへの採用を推進しています。AWS（Amazon EC2 DL1インスタンス）での提供実績があり、NVIDIAへの依存を減らしたい顧客にとって有力な選択肢となっています。