クラウド・計算基盤

AIaaS、分散学習、推論サーバーなど、AI実行環境を解説

01クラウドコンピューティングCloud Computing 02AIaaSAI as a Service 03IaaSInfrastructure as a Service 04PaaSPlatform as a Service 05SaaSSoftware as a Service 06AWSAmazon Web Services 07AzureMicrosoft Azure 08Google CloudGoogle Cloud Platform 09オンプレミスOn-Premises 10ハイブリッドクラウドHybrid Cloud 11マルチクラウドMulti-Cloud 12GPUクラウドGPU Cloud 13GPUインスタンスGPU Instance 14サーバーレスServerless Computing 15コンテナContainer 16DockerDocker 17KubernetesKubernetes 18マイクロサービスMicroservices 19APIApplication Programming Interface 20REST APIREST API 21gRPCgRPC Remote Procedure Call 22推論サーバーInference Server 23モデルサービングModel Serving 24TensorRTTensorRT 25ONNXOpen Neural Network Exchange 26Triton Inference ServerTriton Inference Server 27モデルデプロイModel Deployment 28エッジコンピューティングEdge Computing 29エッジ推論Edge Inference 30フェデレーテッドラーニングFederated Learning 31分散学習Distributed Training 32データ並列学習Data Parallelism 33モデル並列学習Model Parallelism 34パイプライン並列学習Pipeline Parallelism 35HorovodHorovod 36DeepSpeedDeepSpeed 37FSDPFully Sharded Data Parallel 38モデルレジストリModel Registry 39フィーチャーストアFeature Store 40MLOpsMachine Learning Operations 41CI/CD(ML)CI/CD for Machine Learning 42実験管理Experiment Management 43MLflowMLflow 44Weights & BiasesWeights & Biases 45モデルモニタリングModel Monitoring 46A/Bテスト(ML)A/B Testing for ML 47カナリアリリースCanary Release 48オートスケーリングAuto Scaling 49レイテンシ最適化Latency Optimization 50スループットThroughput 51バッチ推論Batch Inference 52リアルタイム推論Real-time Inference