Risikomanagement für KI: sicher und konform

KI-Risiken systematisch einordnen

• Risikobegriffe für Modelle und Daten
• Use-Case-Triage und Risikoklassen
• Bedrohungsmodelle für KI-Systeme
• Akzeptanzkriterien und Risk Appetite

Governance, Rollen und Entscheidungen

• RACI für KI-Verantwortlichkeiten
• Rollen von IT, Legal und Security
• Freigabeprozesse und Change Control
• Policy-Set für GenAI und ML

Compliance, Datenschutz und Nachweise

• EU AI Act Pflichten und Dokumentation
• DSGVO, DPIA und Zweckbindung
• ISO/IEC 42001 und ISO 27001 Mapping
• Audit-Trail, Evidenzen und Reporting

Technische Kontrollen und Guardrails

• Datenherkunft, Datenqualität und Versionierung
• Bias, Robustheit und Modell-Validierung
• Prompt-Sicherheit und Output-Kontrollen
• Monitoring, Logging und Alarmierung

KI-Betrieb und Incident Response

• KI-spezifische Vorfalltypen
• Red-Teaming und Abuse-Tests
• Rollback, Kill-Switch und Eskalation
• Human-in-the-Loop im Betrieb

Risikobewertung mit Artefakten

• Scoring-Modell und Risikoregister
• Kontrollkatalog und Maßnahmenplanung
• Begründete Go/No-Go-Entscheidungen
• Checklisten, Reports und SOPs

• Grundverständnis von KI, Machine Learning oder GenAI-Anwendungsfällen
• Vertrautheit mit typischen Datenflüssen in IT- oder Fachprozessen
• Erfahrung mit Governance, Compliance, Datenschutz oder IT-Sicherheit hilfreich
• Für technische Grundlagen zu Azure-KI eignet sich vorab das AI-900 Training: Microsoft Azure AI Fundamentals

• IT- und Security-Verantwortliche, die KI-Systeme sicher in bestehende Kontroll- und Betriebsprozesse integrieren
• Data-Science-, ML-Engineering- und GenAI-Teams mit Verantwortung für Validierung, Monitoring und Guardrails
• Compliance-, Datenschutz-, Risk-Management- und interne Revisionsfunktionen mit Audit- und Nachweisanforderungen
• Product Owner und Projektleitungen, die KI-Produkte vor Freigabe, Rollout oder Skalierung risikobasiert bewerten