テンソルとは
テンソル（Tensor）は、ディープラーニングにおけるデータの基本的な表現形式であり、多次元配列を一般化した数学的概念です。スカラー（0次元テンソル）、ベクトル（1次元テンソル）、行列（2次元テンソル）を含む高次元の数値配列として、ニューラルネットワークのすべてのデータと計算の基盤となります。
テンソルの次元とランク
テンソルの「ランク」（または「階数」「次元数」）は、その配列の次元の数を表します。画像データは通常3次元テンソル（高さ × 幅 × チャネル）、バッチ処理された画像データは4次元テンソル（バッチサイズ × 高さ × 幅 × チャネル）で表現されます。テンソルの各次元を「軸」と呼び、その大きさを「形状（Shape）」として定義します。
フレームワークにおけるテンソル
PyTorchのtorch.Tensor、TensorFlowのtf.Tensorは、それぞれのフレームワークにおけるテンソルの実装です。これらはGPU上での高速な並列計算をサポートし、自動微分（Autograd）の仕組みと統合されています。テンソルの演算（要素ごとの演算、行列積、畳み込みなど）は、GPUのSIMD演算ユニットで効率的に処理されます。
テンソル演算の重要性
ディープラーニングのすべての計算はテンソル演算として表現されます。行列積による全結合層の計算、テンソルの畳み込みによるCNN層の計算、テンソルの転置やリシェイプによるデータ変換など、テンソル操作の理解はディープラーニングの実装に不可欠です。効率的なテンソル演算のためのハードウェア（GPU、TPU）やライブラリ（cuDNN、oneDNN）の発展が、深層学習の進歩を支えています。