Seminare
Seminare

Langfuse Schulung: LLM-Systeme messbar betreiben

Webinar - PROKODA GmbH

Langfuse Schulung: LLM-Systeme messbar betreiben
Termin Ort Preis*
01.03.2027- 03.03.2027 online 2.320,50 €
01.03.2027- 03.03.2027 München 2.320,50 €
*Alle Preise verstehen sich inkl. MwSt.

Detaillierte Informationen zum Seminar

Inhalte:

Architektur und Self-Hosting

  • Docker Compose für lokale Installationen
  • Helm-Deployment auf Kubernetes-Clustern
  • Datenflüsse zwischen Self-Hosting-Komponenten
  • Langfuse-Projekte und API-Schlüssel verwalten

Instrumentierung und Telemetrie

  • Langfuse-SDKs für LLM-Aufrufe
  • OpenTelemetry für herstellerneutrales Tracing
  • Separate Spans für RAG-Schritte
  • Werkzeug- und Modellaufrufe verknüpfen

Traces analysieren

  • Trace-, Span- und Session-Modell
  • Kosten je Modell und Anwendung
  • Latenzen entlang der Aufrufkette
  • Fehlerursachen in RAG-Traces untersuchen

Self-Hosting und Datenschutz

  • Datenminimierung für Ein- und Ausgaben
  • Aufbewahrungsfristen im Self-Hosting festlegen
  • Kubernetes-Secrets für Zugangsdaten verwalten
  • Projektzugriffe über Rollen steuern

Qualitätsmessung mit Langfuse

  • Testdatensätze mit erwarteten Antworten
  • Regelbasierte Evaluatoren und Scores
  • LLM-as-a-Judge mit Bewertungsrubriken
  • Online-Evaluation für produktive Traces
  • Offline-Evaluation vor geplanten Releases

Release-Gates und Qualitätstrends

  • Prompt-Versionen mit Freigabe-Labels steuern
  • Experimente mit festen Testdatensätzen ausführen
  • CI/CD-Gates mit Schwellenwerten definieren
  • Kosten- und Latenzgrenzen prüfen
  • Qualitätstrends zwischen Releases vergleichen
Teilnahmevoraussetzungen:
  • Grundkenntnisse in Python und LLM-APIs
  • Docker- und Kubernetes-Grundlagen, etwa aus dem Kubernetes Grundkurs
Zielgruppe:
  • KI-Entwickler mit produktiven LLM-Anwendungen
  • MLOps-Fachkräfte für generative KI-Systeme
  • Platform Engineers mit Kubernetes-Erfahrung
  • Data Scientists mit RAG- oder Agenten-Projekten
Nach unten
Nach oben
Wir setzen Analyse-Cookies ein, um Ihre Zufriedenheit bei der Nutzung unserer Webseite zu verbessern. Diese Cookies werden nicht automatisiert gesetzt. Wenn Sie mit dem Einsatz dieser Cookies einverstanden sind, klicken Sie bitte auf Akzeptieren. Weitere Informationen finden Sie hier.
Akzeptieren Nicht akzeptieren









Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha



Bei der Verarbeitung Ihrer personenbezogenen Daten im Zusammenhang mit der Kontaktfunktion beachten wir die gesetzlichen Bestimmungen. Unsere ausführlichen Datenschutzinformationen finden Sie hier. Bei der Kontakt-Funktion erhobene Daten werden nur an den jeweiligen Anbieter weitergeleitet und sind nötig, damit der Anbieter auf Ihr Anliegen reagieren kann.







Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha