Lokale KI für Entwickler: Coding mit eigenen Modellen, ohne Datenabfluss
Seminar - GFU Cyrus AG
Nach dem Seminar können Sie einschätzen, was lokale Sprachmodelle in der Softwareentwicklung leisten und wo ihre Grenzen gegenüber großen Cloud-Modellen liegen. Sie sind in der Lage, einen Ollama-Server aufzusetzen, geeignete Modelle auszuwählen und eine lokale Entwicklungsumgebung mit Continue und Aider aufzubauen. Sie können Code erklären und verbessern lassen, Tests erzeugen und Altcode analysieren sowie dokumentieren. Darüber hinaus kennen Sie agentische Arbeitsweisen mit Git-Nachvollziehbarkeit und können die Werkzeugkette über Konventionsdateien, Prompt-Bausteine und Modelfiles an die Anforderungen Ihres Unternehmens anpassen.
Typische Anwendungsfälle wie Code-Erklärung, Refactoring, Tests und Legacy-Analyse einordnen
Was lokale Sprachmodelle leisten
Grundprinzipien der Code-Erzeugung durch Sprachmodelle
Modellfamilien und Größenklassen von 7B bis 35B
Speicherbedarf und praktische Auswirkungen der Modellgröße
Einordnung gegenüber Copilot, ChatGPT und Claude
Benchmarks verstehen und deren Aussagegrenzen beurteilen
Ollama als Modell-Laufzeit
Ollama installieren und Modelle bereitstellen
Modelle auswählen und verwalten
Grafikspeicher-Grenzen praktisch nachvollziehen
Zentralen GPU-Server als Kursumgebung aufbauen
VS Code mit dem Modellserver verbinden
Produktiv im Editor mit Continue
Continue in den Entwicklungsworkflow integrieren
Code erklären lassen
Code verbessern
Tests erzeugen
Erste eigene Arbeitsergebnisse mit lokaler KI erstellen
Prompt-Handwerk für kleine Modelle
Präzise Arbeitsaufträge formulieren
Kontext gezielt bereitstellen
Kontext-Disziplin einhalten
Typische Stolperfallen erkennen
Unterschiede zum Prompting großer Cloud-Modelle verstehen
Agentisch arbeiten mit Aider
Aider im Terminal einsetzen
KI-gestützte Änderungen am Code durchführen
Jeden KI-Schritt über Git-Commits nachvollziehbar machen
Einen abgeschlossenen KI-Umbau im Git-Verlauf dokumentieren
Praxis Altcode
Legacy-Modul analysieren
Bestehenden Code dokumentieren
Altcode mit Tests absichern
Grenzen bei großen Mehrdatei-Umbauten praktisch erleben
Stärken und Grenzen lokaler Modelle realistisch bewerten
Firmenregeln und eigenes Firmenmodell
Konventionsdateien definieren
Wiederverwendbare Prompt-Bausteine erstellen
Werkzeugkette an interne Regeln anpassen
Eigenes Firmenmodell per Modelfile erzeugen
Firmenmodell-Vorlage für den weiteren Einsatz vorbereiten
Betrieb im Unternehmen
Grafikkarten-Klassen einordnen
Nutzerzahl pro Server abschätzen
Kosten je Mitarbeiter und Monat kalkulieren
Zugänge und Netzwerk absichern
Risiken eines offenen Modellservers verstehen
Einführungsfahrplan von der Testphase bis zum Regelbetrieb entwickeln
Hands-on-Projekt und Abschluss
Eigene Entwicklungsaufgabe mit der vollständigen Werkzeugkette bearbeiten
Vom ersten Auftrag bis zum fertigen Ergebnis arbeiten
Ergebnisse kontrollieren und bewerten
Nächste Schritte für den eigenen Einsatz ableiten
Dauer/zeitlicher Ablauf:
2 Tage
Zielgruppe:
Das Seminar richtet sich an Softwareentwickler aller Programmiersprachen, die KI-Unterstützung nutzen möchten, ohne Quellcode und Prompts an externe Cloud-Dienste zu übertragen. Es eignet sich außerdem für Teamleiter und Softwarearchitekten, die lokale KI-Werkzeuge in Entwicklerteams einführen möchten, sowie für IT-Verantwortliche in Unternehmen, in denen Cloud-KI aufgrund interner Vorgaben, Kundendaten oder Compliance-Anforderungen nicht eingesetzt werden kann.
Teilnahmevoraussetzungen
Sie benötigen keine Vorkenntnisse im Bereich künstlicher Intelligenz.
Programmiererfahrung ist hilfreich.
Grundkenntnisse in Git sind von Vorteil, aber keine Voraussetzung.
Grundkenntnisse in Visual Studio Code sind hilfreich, aber nicht zwingend erforderlich.
Sie sollten grundlegende Abläufe der Softwareentwicklung kennen.
Wir setzen Analyse-Cookies ein, um Ihre Zufriedenheit bei der Nutzung unserer Webseite zu verbessern.
Diese Cookies werden nicht automatisiert gesetzt.
Wenn Sie mit dem Einsatz dieser Cookies einverstanden sind, klicken Sie bitte auf Akzeptieren.
Weitere Informationen finden Sie hier.
