Live-Online: Generative KI-Assistenten entwickeln mit LLM, RAG und Cloud-Services

1. Technische Grundlagen generativer Sprachmodelle

• Die Evolution von Chatbots zu LLM-Agenten
• Text Embeddings: Von Text zu Vektoren
• Effiziente Sprachmodellierung mit der Transformer-Architektur
• Funktionsweise moderner Chat-Modelle
• Evaluierung von Sprachmodellen

2. LLMs per API und Cloud-Integration

• Proprietäre APIs nutzen (OpenAI, Anthropic, Google AI)
• LLMs in der Cloud (Azure OpenAI Service u.a.)
• Sicherheit, Datenschutz, Kostenkontrolle bei API-Aufrufen

3. Open-Source-Sprachmodelle einsetzen

• Open-Source-Sprachmodelle selber hosten
• Einfacher Zugang zu Open-Source-LLMs am Beispiel Ollama
• Aufbau einer eigenen KI-Chat-Anwendung mit OpenWebUI und Ollama

4. Best Practices in der LLM-Entwicklung

• LLM-Frameworks einsetzen: LangChain, LlamaIndex, Haystack u.a.
• Strukturierte Daten mit LLMs generieren
• Strukturierte JSON-Outputs und Datenextraktion

5. LLM anpassen: RAG und Feintuning

• Grundlagen: Retrieval-Augmented Generation (RAG) in Projekten
• Aufbau eines einfachen RAG- Systems mit LlamaIndex
• Wann und wie Finetuning gegenüber RAG verwendet wird

6. Fortgeschrittene Konzepte und Praxis

• Einführung in multimodale Modelle (Text & Vision)
• Quantisierte Modelle für beschränkte Speicheranforderungen
• Agentic AI: Sprachmodelle für komplexe Aufgaben nutzen
• Praxisprojekt: Entwicklung eines Chatbots (End-to-End)

Überblick über Modelle und Technologien:Du verschaffst Dir einen Überblick und Detailwissen über die verschiedenen Ansätze in der Entwicklung von KI-Lösungen – mit Open-Source- oder proprietären Modellen, per API oder lokal gehostet, mit Finetuning oder RAG, mit oder ohne Cloud-Services.

Praxisreife Assistenten entwickeln: Entlang der Vermittlung von Grundlagen und Technik entwickelst du in Praxisübungen selbst an einem KI-Assistenten.

Fundierte Technologie-Entscheidungen treffen: Du vergleichst Public-API, Azure OpenAI und eigene GPU-Cluster im Hinblick auf Kosten, Latenz und Kontrolle.

Skalieren ohne Überraschungen: Durch Quantisierung, Sicherheitsmaßnahmen und lokales Hosting behältst Du Betriebskosten und Risiken im Griff.

Unterstützung beim Lerntransfer: Cloud-Lab, Quellcode, Jupyter Notebooks und Deploy-Blueprint sichern den Transfer in deinen Arbeitsalltag.

Software-Entwickler:innen, ML-Engineers, Data Scientists, Solution-Architekt:innen und IT-Berater:innen, die KI-Assistenten konzipieren, implementieren und betreiben möchten.

Python-Grundkenntnisse werden vorausgesetzt, da Beispiele auf Code-Basis analysiert und programmiert werden. Bestehendes Data-Science-Wissen ist hilfreich, aber nicht zwingend erforderlich.