Seminare
Seminare

Linux Administration für KI-Workloads mit GPUs

Seminar - PROKODA GmbH

Linux Administration für KI-Workloads mit GPUs
Termin Ort Preis*
01.02.2027- 03.02.2027 online 1.773,10 €
01.02.2027- 03.02.2027 München 1.773,10 €
*Alle Preise verstehen sich inkl. MwSt.

Detaillierte Informationen zum Seminar

Inhalte:

GPU-Stack unter Linux

  • NVIDIA-Treiber und Versionierung
  • DKMS, Secure Boot, Kernel-Updates
  • CUDA, cuDNN und NCCL-Kompatibilität
  • nvidia-smi, Persistenced, Smoke-Tests

Container-Laufzeiten für KI-Workloads

  • Docker und NVIDIA Container Toolkit
  • CDI für GPU-Device-Zugriff
  • Reproduzierbare Images und Base-Images
  • Pinning, SBOM-Idee, Library-Mismatches
  • Training- und Inference-Betrieb

Ressourcensteuerung und Isolation

  • cgroups v2 für CPU, RAM, IO
  • GPU-Device-Zugriff und Berechtigungen
  • MIG und GPU-Slicing im Überblick
  • Ulimits, Shared Memory, Hugepages
  • Mehrbenutzerbetrieb und Policy-Ansätze

Performance-Tuning für GPU-Server

  • NVMe, RAID und Filesystem-Optionen
  • Dataset-Caching und Storage-Durchsatz
  • MTU, Jumbo Frames, RDMA-Grundlagen
  • CPU-Pinning und NUMA-Affinität
  • IRQ-Balancing und Latenz-Checks

Observability und Troubleshooting

  • journald, dmesg und Modul-Logs
  • DCGM und DCGM Exporter
  • GPU-Utilization, Thermals, Power-Limits
  • Signaturen und tainted Kernel
  • Rollback, Canary, Wartungsfenster

Referenz-Setup und Betriebsübergabe

  • Golden Path bis Container-Workload
  • Kompatibilitätsmatrix als Betriebsdokument
  • Go-Live-Tests und Monitoring-Limits
  • Backup, Runbooks und Verantwortlichkeiten
Teilnahmevoraussetzungen:
  • Sichere Linux-Kenntnisse in Shell, Systemdiensten, Paketmanagement und Logs
  • Administrationspraxis auf Server-Systemen, idealerweise auf Niveau des Linux Aufbaukurs: Administration und Systemmanagement
  • Grundverständnis von Containern und Docker, bei Bedarf auffrischbar im Docker Grundkurs
  • Erste Berührungspunkte mit KI-Workloads, MLOps oder GPU-basierten Anwendungen sind hilfreich
Zielgruppe:
  • Linux-Administratorinnen und Linux-Administratoren mit Betriebsverantwortung für GPU-Server
  • DevOps- und Platform-Engineers für containerisierte KI-Workloads
  • ML-Engineers und MLOps-Verantwortliche mit Infrastruktur- und Deployment-Aufgaben
  • IT-Betrieb und SRE-Teams für stabile Training- und Inference-Umgebungen
Nach unten
Nach oben
Wir setzen Analyse-Cookies ein, um Ihre Zufriedenheit bei der Nutzung unserer Webseite zu verbessern. Diese Cookies werden nicht automatisiert gesetzt. Wenn Sie mit dem Einsatz dieser Cookies einverstanden sind, klicken Sie bitte auf Akzeptieren. Weitere Informationen finden Sie hier.
Akzeptieren Nicht akzeptieren









Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha



Bei der Verarbeitung Ihrer personenbezogenen Daten im Zusammenhang mit der Kontaktfunktion beachten wir die gesetzlichen Bestimmungen. Unsere ausführlichen Datenschutzinformationen finden Sie hier. Bei der Kontakt-Funktion erhobene Daten werden nur an den jeweiligen Anbieter weitergeleitet und sind nötig, damit der Anbieter auf Ihr Anliegen reagieren kann.







Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha