PCIe(Peripheral Component Interconnect Express)とは、コンピュータのマザーボードとGPUなどの拡張カードを接続する高速シリアルインターフェース規格です。AI文脈では、CPUとGPU間のデータ転送、GPUとストレージ間の通信、複数GPUシステムでのデータ交換に使用される重要な接続インフラです。
PCIeの世代と帯域幅
PCIeは世代ごとに帯域幅が倍増しています。PCIe 3.0はレーンあたり約1GB/s、PCIe 4.0は約2GB/s、PCIe 5.0は約4GB/s、PCIe 6.0は約8GB/sの一方向帯域幅を提供します。AI向けGPUは通常x16レーンで接続され、PCIe 5.0 x16で約64GB/sの双方向帯域幅を実現します。
AIワークロードへの影響
CPU-GPU間でのデータ転送速度はPCIeの帯域幅に制限されます。大規模なデータセットの読み込みやマルチGPU環境でのGPU間通信において、PCIeの帯域幅がボトルネックになる場合があります。特にモデル並列やデータ並列の学習では、GPU間の通信量が大きくなるため注意が必要です。
NVLinkとの比較
NVIDIAのNVLinkはGPU間の直接接続技術で、PCIeよりも大幅に高い帯域幅(NVLink 4.0で約900GB/s)を提供します。大規模なマルチGPU学習ではNVLinkが優先されますが、PCIeはコストが低く、異なるベンダーのハードウェアとの互換性があるため、汎用的な接続手段として引き続き重要な役割を果たしています。