HBM（High Bandwidth Memory）とは、3D積層技術を用いて製造される超広帯域メモリ規格です。複数のDRAMダイを垂直に積層し、シリコンインターポーザ上でプロセッサと近接配置することで、従来のGDDRメモリを大幅に上回るメモリ帯域幅を実現します。AI向けGPUやアクセラレータの主要メモリとして広く採用されています。
HBMの技術的仕組み
HBMはTSV（Through-Silicon Via：シリコン貫通電極）技術を使い、複数のDRAMダイを物理的に積層します。1つのスタックに数千本の微細な配線を通すことで、広いバスを実現します。HBM3では1スタックあたり1024ビットのバス幅を持ち、GDDR6の32ビットバスと比較して圧倒的な並列データ転送が可能です。
HBMの世代と性能
HBM（2013年）から始まり、HBM2、HBM2E、HBM3、HBM3Eと進化を重ねています。HBM3Eは1スタックあたり最大1.2TB/sの帯域幅と36GBの容量を実現します。NVIDIA H200はHBM3eを搭載し、合計4.8TB/s・141GBのメモリ構成を持ちます。
AI需要と供給課題
HBMの製造はSK Hynix、Samsung、Micronの3社に限られます。AI半導体の需要急増に伴いHBMの供給不足が深刻化し、AIチップのボトルネックとなっています。HBMの製造は通常のDRAMと比較して3〜5倍の工程が必要で、生産能力の拡大に時間がかかる点が課題です。