Seminare
Seminare

KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co.

Seminar - PROKODA GmbH

KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co.
Termin Ort Preis*
11.01.2027- 12.01.2027 München 1.297,10 €
11.01.2027- 12.01.2027 online 1.297,10 €
08.03.2027- 09.03.2027 online 1.297,10 €
08.03.2027- 09.03.2027 München 1.297,10 €

Alle Termine anzeigen

*Alle Preise verstehen sich inkl. MwSt.

Detaillierte Informationen zum Seminar

Inhalte:

Bedrohungsbild bösartiger KI

  • WormGPT, FraudGPT und ähnliche Modelle
  • Fähigkeiten und Grenzen bösartiger LLMs
  • GenAI-Angriffsketten von Recon bis Exfiltration
  • TTPs für Phishing, Betrug und BEC
  • Grenzen klassischer Security-Kontrollen

Prompt-Injection und Model-Abuse

  • Direkte Prompt-Injection in Chatbots
  • Indirekte Prompt-Injection über Dateien
  • Angriffe auf RAG-Kontexte
  • Tool-Abuse bei Agenten
  • Plugin- und Action-Risiken
  • System-Prompt-Leakage und Datenabfluss

KI-gestütztes Social Engineering

  • Business Email Compromise mit LLM-Texten
  • Deepfake-Voice-Angriffe und Erkennungsmerkmale
  • Pretexting, Smishing und MFA-Fatigue
  • Helpdesk-Bypass durch synthetische Identitäten

Detection Engineering für GenAI-Angriffe

  • Log-Quellen aus E-Mail und IdP
  • EDR-, Proxy- und DLP-Telemetrie
  • Chatbot-Telemetrie und Tool-Calls
  • Schreibmuster, TTPs und Anomalien
  • SOC-Triage und Eskalationspfade

Hardening von LLM- und RAG-Systemen

  • Input- und Output-Filter
  • Content Policies und Guardrails
  • Secrets-Schutz für Token und API-Keys
  • Quellenbewertung und Provenance
  • Vector- und Embedding-Schwachstellen
  • Least-Privilege für Agenten

Incident Response und Governance

  • Beweissicherung für Prompts und Kontexte
  • Artefakte aus Tool-Aufrufen
  • Root-Cause-Analyse im Workflow
  • Post-Incident Maßnahmen und Monitoring
  • Risikobewertung für GenAI-Use-Cases
  • Policy-Design und Lieferkettenprüfung
Teilnahmevoraussetzungen:
  • Grundkenntnisse in IT-Security, gängigen Angriffsmethoden und Logging, zum Beispiel E-Mail, IdP und EDR
  • Sicherer Umgang mit LLMs; als Vorbereitung eignet sich der ChatGPT Grundkurs: Erfolgreich prompten
  • Erste Berührungspunkte mit RAG, Chatbots oder Agenten sind hilfreich, aber nicht zwingend erforderlich
Zielgruppe:
  • SOC-Analystinnen und SOC-Analysten sowie Incident Responder mit GenAI-Bezug
  • Security Engineers, Detection Engineers und Threat Hunter für KI-gestützte Angriffsketten
  • IAM-, E-Mail-, Endpoint- und DLP-Verantwortliche mit Schutzauftrag für GenAI-Nutzung
  • Architektinnen und Architekten für LLM-, RAG-, Chatbot- und Agenten-Systeme
Nach unten
Nach oben
Wir setzen Analyse-Cookies ein, um Ihre Zufriedenheit bei der Nutzung unserer Webseite zu verbessern. Diese Cookies werden nicht automatisiert gesetzt. Wenn Sie mit dem Einsatz dieser Cookies einverstanden sind, klicken Sie bitte auf Akzeptieren. Weitere Informationen finden Sie hier.
Akzeptieren Nicht akzeptieren









Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha



Bei der Verarbeitung Ihrer personenbezogenen Daten im Zusammenhang mit der Kontaktfunktion beachten wir die gesetzlichen Bestimmungen. Unsere ausführlichen Datenschutzinformationen finden Sie hier. Bei der Kontakt-Funktion erhobene Daten werden nur an den jeweiligen Anbieter weitergeleitet und sind nötig, damit der Anbieter auf Ihr Anliegen reagieren kann.







Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha