Java Microservices mit KI: Spring AI und LangChain4j

Setup und Tooling

• IntelliJ AI-Setup: Dependency Management, Artifact-Repositories
• ChatGPT-Plugin für IntelliJ vs. ChatGPT-Webversion
• IntelliJ AI Assistant vs. Inline-AI-Coding

Einführung & Zielsetzung

• Überblick über zentrale AI-Themen: AI, ML, LLM, NLP, Generative AI, GPTs
• Einsatzmöglichkeiten von KI in der Softwareentwicklung
• Einordnung von LLMs in modernen Enterprise-Anwendungen

LLM-Grundlagen & Einstieg in Spring AI

• Grundlagen von LLMs & Chat-Modellen
• Integration von Spring AI in Spring Boot
• Spring-AI-Setup (BOM, Starter, AutoConfig)

Prompt Engineering & Templates

• Schutz vor Prompt Injection
• Strategien: Few-Shot, Zero-Shot, Chain-of-Thought
• Praktische Einsatzszenarien: Q&A, Pro/Con, StepwiseChain
• Strukturierte Ausgaben mit OutputParser & JSON-Mapping

Advisors API

• Vor- und Nachverarbeitung von Eingaben
• SimpleLoggerAdvisor und Custom Advisor-Beispiele

KI-gestützte Microservices

• Architekturkonzepte mit LLM-Integration
• Spring AI ChatClient API als zentrale Schnittstelle
• Unterstützung für Prompt-Komposition, call(), stream() sowie Rollen (user, system, assistant)

Reaktive KI-Microservices

• Einsatz von Streaming Models mit dem Spring AI ChatClient
• Antworten der KI werden stückweise während der Verarbeitung übertragen

Tool Calling mit Spring AI

• Integration externer Tools via @Tool
• Erweiterung der KI-Funktionalitäten durch Tool-Anbindung
• Ablauf: Modell ? Tool-Auswahl ? Ergebnisintegration
• Nutzung von realTime APIs

MCP – Model Control Protocol

• Standardisiertes Protokoll für die strukturierte Interaktion von KI-Modellen mit externen Tools & Ressourcen

Integration eigener Daten & APIs

• Grounding und Prompt Stuffing für kontextspezifische Antworten

Retrieval Augmented Generation (RAG)

• Konzept: Daten + Kontext = intelligente Antwort

Embeddings & Datenbanken

• Nutzung der Embeddings API
• Vector-Datenbanken (z. B. Pgvector)
• Document Loaders & ETL-Pipelines
• Chat Memory für kontextbasierte Konversationspersistenz

Entwicklung intelligenter KI-Agenten mit Spring AI

• Einführung in Agentenlogik: Decision Making, Agentic Loop

Agentic Workflows

• ChainWorker, OrchestratorWorker, ParallelWorker
• Effektiver Aufbau von Agenten & modellgesteuerten Workflows

Lokale Modelle

• Einsatz von Ollama & chat4all
• Vorteile: Datenschutz, Kostenoptimierung, Offlinefähigkeit

Testing & Entwicklung

• Arbeiten mit Testcontainers
• Mocking generativer Antworten für verlässliche Tests

• Gute Java-Kenntnisse: sicherer Umgang mit Java und Spring Boot
• Grundverständnis von Microservice-Architekturen
• Basiswissen zu REST-APIs und Datenbanken
• Erfahrung mit IntelliJ, VS Code, neovim oder einer vergleichbaren IDE

Java-Programmierer, die ihre Microservices mit KI-Funktionalitäten auf das nächste Level bringen wollen.