Governing Agentic AI und Model Context Protocol (MCP): autonome KI-Agenten verantwortbar einführen
Seminar - GFU Cyrus AG
Jede teilnehmende Person verlässt das Seminar mit einem fundierten Verständnis des Bedrohungsmodells autonomer Agenten entlang der OWASP Top 10 für Agentic Applications (2026, ASI01-ASI10), einem Modell zur Klassifikation von Geschäftsprozessen nach ihrem Blast Radius, den Sicherheitsanforderungen an MCP-Server (Authentifizierung, Scoping, Sandboxing), definierten Human-in-the-Loop-Kontrollpunkten für irreversible Aktionen sowie Observability- und Audit-Anforderungen für agentische Workflows.
Autonomie, Delegation und Persistenz verändern das Risikoprofil - warum Agenten bestehende Schwachstellen vor allem verstärken, statt neue zu erfinden.
2. OWASP Top 10 für Agentic Applications (2026)
Goal Hijack (ASI01), Tool-Missbrauch (ASI02), Identity- und Privilege-Abuse (ASI03), Memory- und Context-Poisoning (ASI06), Human-Agent-Trust-Exploitation (ASI09) und Rogue Agents (ASI10) - verständlich und mit realen Vorfällen.
3. Blast-Radius-Klassifikation
Geschäftsprozesse nach potenzieller Schadenswirkung einordnen und daraus ableiten, welcher Grad an Autonomie überhaupt zulässig ist - das Prinzip der „least agency“.
Praxis-Übung (45 Min)
Eigene Agenten-Anwendungsfälle nach Blast Radius klassifizieren und zulässige Aktionsräume definieren.
Stresstest: „Ein Agent mit E-Mail- und Kalenderzugriff wird über ein präpariertes Dokument gekapert - welche Grenze hätte den Schaden begrenzt?“
Tag 2 - MCP-Sicherheit, Kontrolle und Governance-Charta
4. Model Context Protocol absichern
Authentifizierung, Scoping und Sandboxing von MCP-Servern sowie die sichere Anbindung von Werkzeugen wie E-Mail, Kalender, ERP und Code-Repositories.
5. Kontrolle und Beobachtbarkeit
Human-in-the-Loop-Kontrollpunkte für irreversible Aktionen, Observability agentischer Workflows, unter anderem Langfuse als Konzept, und Audit-Anforderungen.
6. Identitäten und Secrets für Agenten
Warum jeder Agent eine eigene, task-gebundene Identität statt geerbter Admin-Rechte braucht - die Brücke zum Thema Non-Human Identity.
Praxis-Übung (60 Min)
Eine Agentic-AI-Governance-Charta für die eigene Organisation entwerfen - erlaubte Agenten, Bedingungen, Kontrollpunkte und Eskalationswege.
Stresstest: „Ein Kosten-Optimierungs-Agent will produktive Backups löschen, um 'Speicher zu sparen' - welche Regel Ihrer Charta greift?“
Dauer/zeitlicher Ablauf:
2 Tage
Zielgruppe:
Das Seminar richtet sich an CIO und CTO, die den produktiven Einsatz autonomer Agenten verantworten.
Angesprochen sind Head of AI und Head of Automation, die agentengestützte Prozesse einführen und steuern.
Das Seminar eignet sich außerdem für Process Owner und IT-Architektur, die Agenten in reale Geschäftsprozesse und Systeme integrieren.
Ebenfalls angesprochen sind Compliance und Datenschutzbeauftragte, die Verantwortlichkeit, Nachvollziehbarkeit und Kontrolle sicherstellen müssen.
Teilnahmevoraussetzungen
Sie benötigen ein Grundverständnis von LLMs und Cloud-IT.
Der vorherige Besuch eines Orientierungsseminars zu KI-Sicherheit ist hilfreich, aber nicht zwingend.
Wir setzen Analyse-Cookies ein, um Ihre Zufriedenheit bei der Nutzung unserer Webseite zu verbessern.
Diese Cookies werden nicht automatisiert gesetzt.
Wenn Sie mit dem Einsatz dieser Cookies einverstanden sind, klicken Sie bitte auf Akzeptieren.
Weitere Informationen finden Sie hier.
