Große Sprachmodelle personalisieren und erweitern

• Grundlagen von Large Language Models und Einführung in die Personalisierung
  
  • Theorie:
    
    • Was sind Large Language Models/Transformer? Überblick über Architektur, Funktionsweise und bekannte Modelle (GPT, Llama, Mistral)
    • Unterschiede zwischen generischen und spezialisierten Modellen
    • Einführung in die Personalisierung: Fine-Tuning, Prompt Engineering und Parameter-Effizienztechniken (PEFT, LoRA)
    
    
  • Praxis:
    
    • Fine-Tuning eines LLM auf einer Beispiel-Domäne mit Hugging Face
    • Experimentieren mit Prompts, um die Ausgabe für spezifische Aufgaben zu optimieren
    
    
  • Ziel:
    
    • Verstehen, wie LLMs arbeiten und wie sie durch einfache Anpassungen personalisiert werden können
    
    
  
  
• Datenintegration und Retrieval-Augmented Generation (RAG)
  
  • Theorie:
    
    • Warum Datenintegration? Nutzung eigener Wissensquellen zur Erweiterung von LLMs
    • Grundlagen von RAG: Aufbau von Vektordatenbanken und deren Einsatz mit LLMs
    • Technische Einführung in Tools wie LangChain, ChromaDB oder Pinecone
    
    
  • Praxis:
    
    • Aufbau einer Vektordatenbank und Anbindung eines LLMs
    • Implementierung einer Frage-Antwort-Anwendung auf Basis eigener Dokumente
    
    
  • Ziel:
    
    • Die Teilnehmenden lernen, wie sie eigene Daten mit einem LLM nutzen können, um spezifische Anfragen zu beantworten
    
    
  
  
• Lokale Nutzung von LLMs
  
  • Theorie:
    
    • Vorteile der lokalen Nutzung: Datenschutz, Kostenkontrolle und Flexibilität
    • Überblick über Tools und Frameworks für lokale LLMs (z. B. Ollama, LM-Studio)
    • Hardwareanforderungen und Optimierungsmöglichkeiten für lokale Deployments
    
    
  • Praxis:
    
    • Einrichtung eines lokalen LLMs auf dem eigenen Rechner oder Server
    • Vergleich zwischen Cloud- und lokalen Modellen anhand von Praxisbeispielen
    
    
  • Ziel:
    
    • Teilnehmende können ein LLM lokal installieren und betreiben, um datengetriebene Projekte unabhängig und sicher umzusetzen
    
    
  
  

Das Seminar richtet sich an Entwicklerinnen und Entwickler, Data Scientists, Machine Learning Engineers und technische Fachkräfte, die LLMs zielgerichtet für unternehmensspezifische Anwendungen personalisieren möchten.

Besonders profitieren Teilnehmende aus den Bereichen KI-Entwicklung, Data Engineering, Wissensmanagement, Kundenservice, Forschung oder technische Produktentwicklung, die ihre eigenen Datenquellen mit LLMs kombinieren und produktiv einsetzen wollen.



Teilnahmevoraussetzungen

• Sie benötigen Grundkenntnisse in Python
  , einschließlich sicherem Umgang mit Jupyter Notebooks oder Google Colab sowie Erfahrung mit Bibliotheken wie pandas.
• Sie bringen allgemeine Kenntnisse im Bereich Künstliche Intelligenz und Machine Learning mit - inklusive Verständnis für Trainingsprozesse, Evaluierung und Deployment.
• Begriffe wie Embeddings
  , Tokenization oder Transformermodelle sollten Ihnen vertraut sein.