KI-Sicherheit in der Cloud Grundkurs

Bedrohungsbild für GenAI in Cloud-Umgebungen

• Prompt Injection und Jailbreak-Versuche
• Data Exfiltration über Prompts
• Shadow AI und unkontrollierte SaaS-Nutzung
• Plugin-, Connector- und Tool-Risiken
• Risikoketten aus Identität und Daten

Cloud-Security-Grundlagen für KI-Workloads

• Shared Responsibility Model für KI
• IAM-Rollen, Rechte und Tokens
• Least Privilege für KI-Dienste
• Netzwerksegmentierung und API-Grundschutz
• Secrets, Schlüssel und Zugriffspfade

Datenklassifizierung, DLP und Nachweisfähigkeit

• Freigegebene und gesperrte Prompt-Daten
• Datenklassifizierung für KI-Nutzung
• DLP-Regeln für GenAI-Tools
• Verschlüsselung und Key Management
• Logging von Zugriffen und Datenflüssen

Guardrails, Policies und Freigabeprozesse

• Prompt-Guidelines für Fachbereiche
• Output-Regeln und Review-Punkte
• Richtlinien für Tools und Connectors
• Dokumentierte Risikoakzeptanz
• Freigabeprozesse für KI-Anwendungen

LLM-Apps und RAG sicher betreiben

• RAG-Datenquellen und Berechtigungen
• Index-Zugriffe und Mandantentrennung
• Input-Validierung für LLM-Apps
• Rate Limits und Authentifizierung
• Isolation und Sandboxing riskanter Integrationen

Monitoring und Incident Response

• Missbrauchssignale in KI-Systemen
• Anomalien bei Zugriffen und Prompts
• Incident-Playbooks für KI-Vorfälle
• Lessons Learned nach Sicherheitsereignissen
• Nachweise für Audits und Reviews

• Grundverständnis von Cloud-Diensten, Benutzerrechten, Rollen und Zugriffen
• Technisches Interesse an GenAI, LLM-Apps, APIs und Datenflüssen
• Keine Programmierkenntnisse oder Machine-Learning-Vorkenntnisse erforderlich
• Für Cloud-Grundlagen empfiehlt sich bei Bedarf die Google Cloud Associate Cloud Engineer Schulung

• IT-Administratoren, Cloud-Administratoren und Systemverantwortliche, die GenAI-Dienste in Cloud-Umgebungen absichern
• Security-Verantwortliche, IT-Sicherheitsbeauftragte und Teams aus IT-Security-Schulungen, die KI-Risiken bewerten und Controls ableiten
• DevOps-, Platform-Engineering- und Cloud-Operations-Teams, die LLM-Apps, APIs, Secrets und RAG-Anbindungen betreiben
• Product Owner, Projektleitungen und Fachverantwortliche mit KI-Bezug, die Freigaben, Datenregeln und Risikoakzeptanz strukturieren