Detaillierte Informationen zum Seminar
Inhalte:
Einführung in LLMOps
- Unterschiede zu MLOps
- Typische Herausforderungen im produktiven Einsatz
LLM-Architekturen und Deployment-Strategien
- Hosted APIs vs. On-Premise
- Modellwahl und Infrastruktur
Tooling und Frameworks
- LangChain, BentoML, FastAPI, Docker
- Model- und Prompt-Management
Monitoring und Logging
- Antwortqualität, Prompt-Auswertung, LLM-Observability
- Tools: Weights & Biases, LangSmith, OpenTelemetry
Sicherheit und Compliance
- Datenschutz, Auditierbarkeit, Governance-Regeln
Kostenkontrolle und Skalierung
- Token-Tracking, Caching, Request-Management
Beispielprojekt
- Aufbau einer LLM-basierten Anwendung mit Logging, Prompt-Debugging und Monitoring
Dauer/zeitlicher Ablauf:
3 Tage
Ziele/Bildungsabschluss:
Siehe Beschreibung und Inhalt.
Teilnahmevoraussetzungen:
Gute Kenntnisse in Python, API-Nutzung und Container-Technologien. Erfahrungen mit DevOps-Tools, ML-Pipelines oder Cloud-Umgebungen sind hilfreich.
Material:
Im Preis enthalten sind PC-COLLEGE - Zertifikat, technische Beratung und Kursmaterial.
Förderung:
Bildungsscheck, andere auf Anfrage
Zielgruppe:
Nach dem Seminar können Sie LLMs über LLMOps-Strategien skalierbar, wartbar und sicher im Unternehmenskontext einsetzen.
Seminarkennung:
LMO260216-ONL
