KI-Sicherheit: LLM- und Agenten-Anwendungen absichern

• Tag 1: 1. KI-Sicherheit einordnen
  
• 2. Die OWASP Top 10 für LLM-Anwendungen 2026
  
• 3. Prompt-Injection als Hauptangriff
  
• 4. System-Prompt-Leakage und Datenoffenlegung
  
• 5. Verteidigung in der Tiefe für LLM-Anwendungen
  
• Praxis-Übung Tag 1: Eine bereitgestellte LLM-Chat-Anwendung gegen die OWASP LLM Top 10 prüfen, eine direkte und eine indirekte Prompt-Injection ausführen und anschließend mindestens zwei Abwehrschichten - Eingabeprüfung und Ausgabebehandlung - einbauen und die Wirkung belegen.
• Tag 2: 6. RAG- und Vektor-Sicherheit
  
• 7. Lieferkette und Datenvergiftung
  
• 8. Die OWASP Top 10 für agentische Anwendungen 2026
  
• 9. Werkzeug- und MCP-Sicherheit
  
• Praxis-Übung Tag 2: Einen einfachen Agenten mit Werkzeug- und RAG-Anbindung angreifen - über eine vergiftete Wissensquelle eine indirekte Prompt-Injection auslösen - und ihn anschließend über strenge Werkzeugrechte, Quellenprüfung und einen menschlichen Kontrollpunkt absichern.
• Tag 3: 10. Red-Teaming von KI-Systemen
  
• 11. Guardrails und Laufzeitschutz
  
• 12. Schatten-KI eindämmen
  
• 13. Governance und Compliance
  
• Praxis-Übung Tag 3 (Peer-Review): Für die über die drei Tage abgesicherte Anwendung ein Red-Teaming mit einem der Werkzeuge durchführen, ein passendes Guardrail ergänzen und das Absicherungs- und Governance-Konzept einer anderen teilnehmenden Person gegen die OWASP-Listen, das Red-Teaming-Ergebnis und die Rahmenwerke prüfen und die Rückmeldungen einarbeiten.
  
  
  
  
• ...

Den kompletten Seminarinhalt finden Sie auf der Anbieterseite

• Entwicklerinnen und Entwickler sowie Architektinnen von KI-Anwendungen
• Security-Fachkräfte und AppSec-Teams
• DevSecOps-Verantwortliche
• Technische Verantwortliche für KI-Governance und Compliance

Voraussetzungen: Die Teilnehmenden bringen ein Grundverständnis von großen Sprachmodellen und ihrer Anwendung sowie Grundlagen der Anwendungssicherheit mit. Erste Erfahrung mit APIs und einer Programmiersprache ist hilfreich, aber nicht zwingend