Seminare
Seminare

Qwen 3.8 Training: Lokaler und API-Betrieb

Seminar - PROKODA GmbH

Qwen 3.8 Training: Lokaler und API-Betrieb
Termin Ort Preis*
18.01.2027- 20.01.2027 online 2.130,10 €
18.01.2027- 20.01.2027 München 2.130,10 €
*Alle Preise verstehen sich inkl. MwSt.

Detaillierte Informationen zum Seminar

Inhalte:

Qwen 3.8 und Betriebswege

  • 27B-Variante mit Open Weights
  • Plus-Variante über Online-Zugang
  • Modellkarten und Lizenzbedingungen
  • Einsatzprofile für Code und Agenten

Hardware und Quantisierung

  • VRAM-Bedarf bei wachsendem Kontext
  • Q5_K_M und Q8_0 im Vergleich
  • NVFP4 auf kompatibler NVIDIA-Hardware
  • Key-Value-Cache und Speicherreserve

Lokale Inferenz

  • Hugging Face als Modellquelle
  • llama.cpp als Inferenzumgebung
  • Unsloth Desktop für lokale Starts
  • Kontext- und Sampling-Parameter
  • Protokollierung von Laufzeitmessungen

Plus-Variante online

  • Zugangsdaten und Endpunktkonfiguration
  • Anfragen an die Plus-Variante
  • Systemanweisungen für strukturierte Ausgaben
  • Fehlerbehandlung bei Online-Aufrufen
  • Kosten- und Latenzgrenzen

Eigene Modelltests

  • Aufgabenspezifische Testfälle
  • Codetests mit festen Akzeptanzkriterien
  • Agentenläufe mit Werkzeugaufrufen
  • Qualitätsvergleich der Quantisierungen
  • Token-Durchsatz und Antwortlatenz

Sicherheit und Einsatzfreigabe

  • Datenwege bei lokalem und Online-Betrieb
  • Prompt Injection bei Werkzeugaufrufen
  • Berechtigungen nach dem Minimalprinzip
  • Risiken abliterierter Modellvarianten
  • Freigabekriterien für den Einsatz
Teilnahmevoraussetzungen:
  • Grundkenntnisse zu Large Language Models und Prompting
  • Erfahrung mit Python oder einer vergleichbaren API-Sprache
Zielgruppe:
  • KI-Entwickler mit ersten LLM-Projekten
  • DevOps-Fachkräfte für lokale Inferenz
  • IT-Architekten mit Open-Weights-Vorhaben
  • Security-Fachkräfte für agentische Anwendungen
Nach unten
Nach oben
Wir setzen Analyse-Cookies ein, um Ihre Zufriedenheit bei der Nutzung unserer Webseite zu verbessern. Diese Cookies werden nicht automatisiert gesetzt. Wenn Sie mit dem Einsatz dieser Cookies einverstanden sind, klicken Sie bitte auf Akzeptieren. Weitere Informationen finden Sie hier.
Akzeptieren Nicht akzeptieren









Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha



Bei der Verarbeitung Ihrer personenbezogenen Daten im Zusammenhang mit der Kontaktfunktion beachten wir die gesetzlichen Bestimmungen. Unsere ausführlichen Datenschutzinformationen finden Sie hier. Bei der Kontakt-Funktion erhobene Daten werden nur an den jeweiligen Anbieter weitergeleitet und sind nötig, damit der Anbieter auf Ihr Anliegen reagieren kann.







Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha