KI/AI Cloud Bundle — KI-Infrastruktur (AWS, Azure, GCP) für ML-Workloads

KI-Workloads stellen besondere Anforderungen an Cloud-Infrastruktur — GPUs/TPUs, Storage für große Datasets, Distributed Training, Model Serving mit niedriger Latenz. Dieses Bundle zeigt Multi-Cloud-Strategien für ML-Lifecycle. AWS SageMaker (3 Wochen): SageMaker Studio als Entwicklungs-IDE, Notebook Instances mit GPU-Support, Training Jobs (Single und Distributed mit Data Parallelism über Horovod/PyTorch DDP), Hyperparameter Tuning Jobs mit Bayesian Optimization, Endpoints für Real-Time-Inferenz (Single Model, Multi-Model, Multi-Container, Inference Pipelines, Async Inference, Serverless Inference, Batch Transform). Built-in Algorithmen (XGBoost, Linear Learner, BlazingText, Image Classification, Semantic Segmentation), Bring-Your-Own-Container mit Docker. SageMaker Feature Store, Model Registry, Model Monitor (Data Drift, Model Quality, Bias, Explainability), Pipelines für ML-Workflows. SageMaker Ground Truth für Labeling, Clarify für Bias-Detection, Autopilot für AutoML, JumpStart für Pre-Trained Models. Azure Machine Learning (3 Wochen): Azure ML Workspace, Compute Instances, Compute Clusters (CPU/GPU/NPU), Pipelines (visuell und Python SDK), Designer für No-Code-ML, AutoML, Endpoints (Real-Time und Batch), MLflow-Integration (Microsoft committed to MLflow), Responsible AI Dashboard (Fairness, Explainability, Causal Inference, Counterfactuals). Prompt Flow für LLM-Apps. Azure AI Foundry als All-in-One-Hub. Google Cloud Vertex AI (2 Wochen): Vertex AI Workbench, Custom Training mit Containers, Pre-built Containers (TensorFlow, PyTorch, sklearn, XGBoost), Hyperparameter Tuning mit Vizier, Endpoints, Pipelines (Kubeflow-basiert), Vertex AI Feature Store, Model Registry, Vertex AI Model Garden (inkl. Llama, Gemini), Vertex AI Agent Builder. GPU-Strategie übergreifend (2 Wochen): GPU-Auswahl (NVIDIA A100 80GB, H100, L40S, B200; AMD MI300X; Google TPU v5e/v5p), Spot/Preemptible Instances für 70% Kostenersparnis, Mixed Precision Training (FP16/BF16), Distributed Training Strategies (Data Parallelism, Model Parallelism, Pipeline Parallelism, Tensor Parallelism). Cost Optimization (Reserved Capacity, Savings Plans, GPU-Sharing via MIG Multi-Instance-GPU). Vergleichsmatrix der drei Hyperscaler nach Use Case.