Seminare
Seminare

Open-Source LLM Fine-Tuning für Entwickler

Seminar - PROKODA GmbH

Open-Source LLM Fine-Tuning für Entwickler
Termin Ort Preis*
08.02.2027- 10.02.2027 München 1.773,10 €
08.02.2027- 10.02.2027 online 1.773,10 €
*Alle Preise verstehen sich inkl. MwSt.

Detaillierte Informationen zum Seminar

Inhalte:

Modell- und Trainingsstrategie

  • Use-Case-Scoping für Chat, RAG, Tool-Use und Klassifikation
  • Abgrenzung von Prompting, RAG, SFT, Preference Tuning und Full Fine-Tuning
  • Auswahl geeigneter Base Models wie Llama, Mistral oder Qwen
  • Lizenz-, Compliance- und Deployment-Aspekte bei Open-Source LLMs
  • Compute-Kalkulation für VRAM, Durchsatz, Trainingsdauer und Kosten
  • Entscheidungskriterien für PEFT, LoRA, QLoRA und vollständiges Fine-Tuning

Datendesign und Qualitätssicherung

  • Aufbau von Instruction-Datasets mit Rollen, Systemregeln und Prompt-Formaten
  • Definition von Zielverhalten, Ablehnungslogik und Policy-Style für Modellantworten
  • Deduplication, Leakage-Prüfung, Toxicity-Checks und Umgang mit PII
  • Labeling-Guidelines, Review-Prozesse und Inter-Annotator-Checks
  • Data Mixing aus Domain-Daten, General-Daten, Safety-Beispielen und Hard Negatives
  • Datensatz-Versionierung, Quality Gates und reproduzierbare Trainingsstände

Supervised Fine-Tuning mit PEFT

  • LoRA- und QLoRA-Konzepte mit Rank, Alpha, Target Modules und Adapter-Struktur
  • Tokenisierung, Chat Templates, Packing, Sequence Length und Loss Masking
  • Training mit Hugging Face Transformers, TRL und typischen SFT-Konfigurationen
  • Hyperparameter-Entscheidungen für Learning Rate, Batch Size und Gradient Accumulation
  • Stabilisierung von Trainingsläufen mit Checkpoints, Seeds und Run-Protokollen
  • Analyse von Trainingssignalen, Overfitting-Risiken und Regressionsmustern

Preference Tuning mit DPO

  • Aufbau von Pairwise-Preference-Daten mit Chosen- und Rejected-Antworten
  • DPO-Grundidee, Beta-Konfiguration und typische Fehlerquellen
  • Sampling-Strategien für Präferenzdaten und Umgang mit widersprüchlichen Labels
  • Vergleich von DPO mit Alternativen wie ORPO, IPO und Best-of-N Sampling
  • Guardrails für Ablehnungen, Safety-Prompts und policy-konformes Antwortverhalten
  • Bewertung von Preference-Tuning-Ergebnissen jenseits subjektiver Einzelbeispiele

Evaluation und Regression Tests

  • Offline-Evaluation mit Task-Suites, Golden Sets und domänenspezifischen Testfällen
  • Regression Tests für Antwortqualität, Formatstabilität, Sicherheitsverhalten und Tool-Use
  • LLM-as-a-Judge mit Kalibrierung, Bias-Prüfung und Gegenchecks
  • Halluzinationsmessung in RAG-Setups und Abgleich mit Referenzquellen
  • Metriken für Drift, Latency, Cost per Answer und Fehlerklassen
  • Entscheidungsgrundlagen für Modellfreigabe, Rollback und weitere Trainingsiteration

Deployment, Serving und Betrieb

  • Export von Adaptern, Adapter-Merge und Vorbereitung von Release-Artefakten
  • Quantisierung mit GPTQ oder AWQ für effiziente Inferenz
  • Serving mit vLLM und TGI inklusive Batching, KV-Cache und Streaming
  • Sicherheitsbetrachtung zu Prompt Injection, Data Exfiltration und Secrets
  • Modellkarten, Versionierung, Release-Prozess und Rollback-Strategien
  • Monitoring von Qualität, Kosten, Latenz und produktionsnahen Betriebsmetriken
Teilnahmevoraussetzungen:
  • Solide Python-Kenntnisse, idealerweise auf Niveau des Python Aufbaukurses
  • Erfahrung mit CLI, Git und reproduzierbaren Entwicklungsabläufen, beispielsweise aus Git, GitLab und CI/CD
  • Grundverständnis von Transformer-Modellen, Tokenisierung und ML-Training
  • Vertrautheit mit Begriffen wie Loss, Epoch, Overfitting, Checkpoint und Hyperparameter
Zielgruppe:
  • Softwareentwicklerinnen, Softwareentwickler und Machine-Learning-Engineers, die Open-Source LLMs für interne oder kundenspezifische Anwendungen anpassen
  • AI Engineers und Produktteams, die Qualität, Evaluation, Guardrails und Betrieb von LLM-basierten Features verantworten
  • Data Scientists mit Erfahrung in Python und Machine Learning, die SFT, LoRA, QLoRA und DPO in reproduzierbare Workflows überführen
  • Plattform-, MLOps- und DevOps-Teams, die Modell-Serving, Monitoring, Versionierung und sichere Releases vorbereiten
Nach unten
Nach oben
Wir setzen Analyse-Cookies ein, um Ihre Zufriedenheit bei der Nutzung unserer Webseite zu verbessern. Diese Cookies werden nicht automatisiert gesetzt. Wenn Sie mit dem Einsatz dieser Cookies einverstanden sind, klicken Sie bitte auf Akzeptieren. Weitere Informationen finden Sie hier.
Akzeptieren Nicht akzeptieren









Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha



Bei der Verarbeitung Ihrer personenbezogenen Daten im Zusammenhang mit der Kontaktfunktion beachten wir die gesetzlichen Bestimmungen. Unsere ausführlichen Datenschutzinformationen finden Sie hier. Bei der Kontakt-Funktion erhobene Daten werden nur an den jeweiligen Anbieter weitergeleitet und sind nötig, damit der Anbieter auf Ihr Anliegen reagieren kann.







Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha