Seminare
Seminare

KI-Apps containerisieren mit Podman, Docker & Kubernetes

Webinar - PROKODA GmbH

KI-Apps containerisieren mit Podman, Docker & Kubernetes
Termin Ort Preis*
09.12.2026- 11.12.2026 online 2.320,50 €
09.12.2026- 11.12.2026 München 2.320,50 €
11.01.2027- 13.01.2027 München 2.320,50 €
11.01.2027- 13.01.2027 online 2.320,50 €
15.03.2027- 17.03.2027 München 2.320,50 €
15.03.2027- 17.03.2027 online 2.320,50 €

Alle Termine anzeigen

*Alle Preise verstehen sich inkl. MwSt.

Detaillierte Informationen zum Seminar

Inhalte:

Container-Setup für KI-Workloads

  • Images für Inferenz und Training
  • Base-Images, Layering und Caching
  • Reproduzierbare Python-Abhängigkeiten
  • Wheels, Lockfiles und Build-Strategien
  • Modellartefakte und Datenablage
  • Healthchecks, Logging und Environment-Konfiguration

Performance und GPU-Betrieb

  • NVIDIA Container Toolkit / Runtime
  • CUDA-Images und Treiber-Kompatibilität
  • Warmup für Inferenz-Services
  • Batching und Concurrency-Steuerung
  • CPU-, RAM- und GPU-Limits
  • IO-Engpässe bei Modellzugriffen

Kubernetes für KI-Services

  • Pods, Deployments und Services
  • Ingress für Inferenz-APIs
  • ConfigMaps für Anwendungskonfiguration
  • Secrets für sensible Zugangsdaten
  • Readiness- und Liveness-Probes
  • HPA, Requests und Limits

Deployment-Muster für Modelle und APIs

  • REST- und gRPC-Inferenz-APIs
  • FastAPI als Beispiel-Stack
  • Modellversionierung über Image-Tags
  • Immutable Images und Registry-Strategien
  • Blue-Green- und Canary-Releases
  • Batch-Inferenz und Scheduled Jobs

Security und Supply Chain

  • Least Privilege für Container
  • Rootless-Betrieb und Capabilities
  • Pod Security im Cluster
  • Image-Scanning und Schwachstellenbewertung
  • SBOM für Software-Komponenten
  • Netzwerk-Policies und sicherer Ingress

Observability und Betrieb

  • Latenz, Throughput und Fehlerraten
  • Queueing-Metriken bei Inferenz
  • Logs und Traces zur Fehleranalyse
  • Rollbacks für fehlerhafte Deployments
  • Incident-Playbooks für Modell-Releases
  • GPU-Auslastung und Kapazitätsplanung
Teilnahmevoraussetzungen:
  • Grundkenntnisse in Linux, CLI und Container-Konzepten, zum Beispiel aus der Schulung Einführung in Container mit Podman
  • Erste Berührung mit Kubernetes, Cloud-Networking oder Orchestrierung, zum Beispiel durch Container Management und Orchestrierung
  • Grundverständnis für Python-basierte KI-Services oder REST-APIs
Zielgruppe:
  • ML Engineers und Data Scientists mit Verantwortung für Deployment und Betrieb von KI-Services
  • DevOps Engineers und Platform Engineers, die KI-Workloads in Container-Plattformen integrieren
  • Softwareentwicklerinnen und Softwareentwickler, die Inferenz-APIs containerisiert bereitstellen
  • IT-Architektinnen und IT-Architekten, die Standards für KI-Deployment, Security und Betrieb definieren
Nach unten
Nach oben
Wir setzen Analyse-Cookies ein, um Ihre Zufriedenheit bei der Nutzung unserer Webseite zu verbessern. Diese Cookies werden nicht automatisiert gesetzt. Wenn Sie mit dem Einsatz dieser Cookies einverstanden sind, klicken Sie bitte auf Akzeptieren. Weitere Informationen finden Sie hier.
Akzeptieren Nicht akzeptieren









Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha



Bei der Verarbeitung Ihrer personenbezogenen Daten im Zusammenhang mit der Kontaktfunktion beachten wir die gesetzlichen Bestimmungen. Unsere ausführlichen Datenschutzinformationen finden Sie hier. Bei der Kontakt-Funktion erhobene Daten werden nur an den jeweiligen Anbieter weitergeleitet und sind nötig, damit der Anbieter auf Ihr Anliegen reagieren kann.







Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha