HBM（High Bandwidth Memory）とは、3D積層技術を用いて製造される超広帯域メモリ規格です。複数のDRAMダイを垂直に積層し、シリコンインターポーザ上でプロセッサと近接配置することで、従来のGDDRメモリを大幅に上回るメモリ帯域幅を実現します。AI向けGPUやアクセラレータの主要メモリとして広く採用されています。
HBMの技術的仕組み
HBMはTSV（Through-Silicon Via：シリコン貫通電極）技術を使い、複数のDRAMダイを物理的に積層します。1つのスタックに数千本の微細な配線を通すことで、広いバスを実現します。HBM3では1スタックあたり1024ビットのバス幅を持ち、GDDR6の32ビットバスと比較して圧倒的な並列データ転送が可能です。
| ひとことで言うと | メモリを縦に積み重ねて、データのやりとりを極めて高速にした技術。 |
|---|---|
| なぜ重要か | AI処理は演算よりメモリ転送が足かせになるため、帯域幅が性能を左右する。 |
| 注意点 | 製造が難しく供給が逼迫しやすい。AI GPUの価格高騰の一因でもある。 |
HBMの世代と性能
HBM（2013年）から始まり、HBM2、HBM2E、HBM3、HBM3Eと進化を重ねています。HBM3Eは1スタックあたり最大1.2TB/sの帯域幅と36GBの容量を実現します。NVIDIA H200はHBM3eを搭載し、合計4.8TB/s・141GBのメモリ構成を持ちます。
1従来メモリ基板上に平面配置
▶
2配線距離が長い帯域幅に限界
▶
3HBM：縦に積む3D積層で距離を短縮
▶
4配線を大量に通す一度に大量転送
▶
5帯域幅が数倍にAI処理の詰まりを解消
AI需要と供給課題
HBMの製造はSK Hynix、Samsung、Micronの3社に限られます。AI半導体の需要急増に伴いHBMの供給不足が深刻化し、AIチップのボトルネックとなっています。HBMの製造は通常のDRAMと比較して3〜5倍の工程が必要で、生産能力の拡大に時間がかかる点が課題です。