Seminare
Seminare

Kimi K3.1: OpenSource LLM sofort produktiv

Webinar - PROKODA GmbH

Kimi K3.1: OpenSource LLM sofort produktiv
Termin Ort Preis*
08.02.2027- 09.02.2027 München 1.297,10 €
08.02.2027- 09.02.2027 online 1.297,10 €
*Alle Preise verstehen sich inkl. MwSt.

Detaillierte Informationen zum Seminar

Inhalte:

Kimi K3 verstehen und einordnen

  • Modellfamilie, Stärken und typische Grenzen
  • Open-Weights vs. Open-Source: Lizenz- und Nutzungslogik
  • Mixture-of-Experts-Prinzip und Ressourcenbedarf
  • Multimodale Eingaben, strukturierte Ausgaben und Tool-Calling
  • Selbst-Hosting, Moonshot-API und gehostete Gateway-Optionen
  • Abgrenzung zu proprietären API-Modellen

Lokales Setup und Laufzeit-Optionen

  • Inference-Stacks wie vLLM, SGLang und KTransformers
  • Ergänzende Tooling-Optionen für Entwicklung und Tests
  • CPU, GPU und hybrider Betrieb im Kostenvergleich
  • Speicherbedarf, Quantisierung und Durchsatzplanung
  • Container- und VM-Deployment in wartbaren Umgebungen
  • Monitoring-relevante Metriken für Latenz und Stabilität

Prompting, Output-Qualität und Tests

  • Prompt-Strukturen für reproduzierbare Ergebnisse
  • System-Prompts, Rollenlogik und Antwortformate
  • Parametersteuerung mit Temperatur, Top-p und Seed
  • Golden-Sets für typische Unternehmensfälle
  • Regression-Checks bei Prompt- und Modelländerungen
  • Bewertung von Halluzinationen, Vollständigkeit und Quellenbezug

RAG mit eigenen Daten ohne Datenchaos

  • Dokumentenaufbereitung für PDF, HTML und Markdown
  • Chunking, Metadaten und Retrieval-Strategien
  • Embeddings, Vektordatenbank und Re-Ranking als Architekturbausteine
  • Quellenbelege, Zitate und nachvollziehbare Antworten
  • Guardrails gegen falsche oder unzulässige Ausgaben
  • Betriebsgrenzen für sensible und dynamische Datenbestände

Sicherheit, Datenschutz und Governance

  • Prompt-Injection und Datenabfluss als typische Angriffsmuster
  • Logging, Redaction und Secrets-Handling
  • Zugriffsrechte, Datenklassifizierung und Freigabeprozesse
  • Policies für Nutzung, Review und Modellwechsel
  • Modellkarten, Risikobewertung und Dokumentationspflichten
  • Übergang vom PoC in kontrollierten Betrieb

Integration in Prozesse und Tools

  • REST-API, Batch-Jobs und Workflow-Automatisierung
  • Rollenverteilung zwischen Fachbereich, IT, Security und Legal
  • Abnahmefähige Ergebnisformate für Fachprozesse
  • Checkliste für Betrieb, Übergabe und Support
  • Schnittstellen zu MLOps, Monitoring und Change-Management
Teilnahmevoraussetzungen:
  • Grundverständnis von APIs, Container- oder VM-Betrieb und Dateiformaten wie PDF, HTML und Markdown
  • Erfahrung mit technischen Workflows, Skripten oder Automatisierung ist hilfreich
  • Keine Data-Science-Vorkenntnisse erforderlich
  • Für fehlende LLM-Betriebsgrundlagen empfiehlt sich der Open-Source-LLMs lokal betreiben Grundkurs
Zielgruppe:
  • IT-Administratoren und Plattform-Teams mit Verantwortung für internen LLM-Betrieb
  • Data- und AI-Engineers mit Aufgaben in Inference, RAG und Evaluation
  • Security-, Datenschutz- und Compliance-Verantwortliche mit Prüf- und Kontrollaufgaben
  • Produktverantwortliche und Prozessverantwortliche für die Einführung von Kimi K3 Workflows
Nach unten
Nach oben
Wir setzen Analyse-Cookies ein, um Ihre Zufriedenheit bei der Nutzung unserer Webseite zu verbessern. Diese Cookies werden nicht automatisiert gesetzt. Wenn Sie mit dem Einsatz dieser Cookies einverstanden sind, klicken Sie bitte auf Akzeptieren. Weitere Informationen finden Sie hier.
Akzeptieren Nicht akzeptieren









Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha



Bei der Verarbeitung Ihrer personenbezogenen Daten im Zusammenhang mit der Kontaktfunktion beachten wir die gesetzlichen Bestimmungen. Unsere ausführlichen Datenschutzinformationen finden Sie hier. Bei der Kontakt-Funktion erhobene Daten werden nur an den jeweiligen Anbieter weitergeleitet und sind nötig, damit der Anbieter auf Ihr Anliegen reagieren kann.







Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha