KI-Compliance & KI-Verständnis im Gesundheitswesen

• Ziele, KI-Beispiele aus dem Krankenhaus, regulatorischer Rahmen
• Grundlagen: Was ist KI und was nicht?
• KI in der medizinischen Praxis (Radiologie, Pflege, Dokumentation)
• Modellfunktionen: Trainingsdaten, Validierung, klinische Metriken (Sensitivity, Specificity, ROC)
• KI-Technologien im Krankenhaus (symbolische KI, ML, DL, NLP, Predictive Analytics)
• Risiken beim KI-Einsatz: technisch, organisatorisch, ethisch, Datenschutz
• Rollen nach EU AI Act: Anbieter, Betreiber (Deployer), Händler – mit Klinikbeispielen
• Risikoklassen und hohe Anforderungen für Diagnostiksysteme
• Pflichten für Krankenhäuser als Deployer: Human Oversight, Monitoring, Logging, Incident Reporting
• Klinisches KI-Risikomanagement inkl. PDCA-Zyklus
• KI-Governance & interne KI-Richtlinie (Erlaubnis-/Verbotsprinzip)
• Workshops & Praxisfälle

Die Teilnehmenden …

• verstehen, wie moderne KI-Modelle (Machine Learning, Deep Learning, NLP) im Gesundheitswesen funktionieren.
• gewinnen ein klares Bild darüber, wo KI heute bereits im Krankenhaus eingesetzt wird – und welche Systeme keine KI sind.
• kennen typische Risiken medizinischer KI: Fehlklassifikationen, Modell-Drift, Überanpassung, Halluzinationen, Bias.
• erlernen die Risikoklassen des EU AI Acts und verstehen, warum nahezu alle klinischen Systeme als Hochrisiko-KI gelten.
• wissen, welche Pflichten Krankenhäuser als Deployer treffen: Human Oversight, Logging, Dokumentation, Monitoring, Incident Reporting.
• lernen, wie DSFA, Grundrechtsfolgenabschätzung und KI-Risikomanagement im klinischen Umfeld angewendet werden.
• können eine KI-Governance-Struktur für ihr Krankenhaus entwickeln – inkl. Rollen, Prozessen und Onboarding neuer KI-Tools.
• bearbeiten praxisnahe Fallbeispiele zu Radiologie-KI, Sepsis-Alerts, generativer Arztbriefassistenz und KI-gestützter Triage.

1. Einführung

• Ziele der Schulung
• Warum KI-Compliance im Krankenhaus besonders kritisch ist
• Der EU AI Act als zentrale gesetzliche Grundlage
• Überblick: Wo kommt KI heute bereits im Krankenhaus vor?

2. Was ist KI – und was nicht? (mit Klinikbeispielen)

• Abgrenzung: KI vs. klassische Regelsoftware
• Typische KI-Anwendungen im Krankenhaus:
  • Bildgebung (CNN zur Tumorerkennung)
  • Triage in der Notaufnahme
  • Pflege-Dokumentation
  • Generative KI für Arztberichte (inkl. Halluzinationsrisiken)
• Klinikbeispiele:
  • KI = CNN für Tumorerkennung
  • KI = NLP-Diktatmodell im OP
  • Keine KI = starrer Medikationsalgorithmus ohne ML
     

3. Funktionsweise moderner KI im Gesundheitswesen

4. Überblick: KI-Technologien im Krankenhaus

• Symbolische KI 
• Überwachtes Lernen 
• Unüberwachtes Lernen 
• Generative KI 
• Predictive Analytics 

5. Risiken beim Einsatz von KI im Krankenhaus

• Technische Risiken
• Datenschutzrisiken
• Organisatorische Risiken
• Ethische Risiken (Bias & Fairness)

Tag 2

6. Rollen im EU AI Act – speziell für das Gesundheitswesen

• Anbieter (Provider)
• Betreiber (Deployer)
• Händler (Distributor)
• Klinikbezogene Abgrenzungsbeispiele:
  • Eigenentwickeltes Tool → Krankenhaus = Hersteller + Deployer
  • Eingekaufte Radiologie-KI → Krankenhaus = Deployer
  • SaaS-KI → Hersteller = Provider, Klinik = Deployer

7. Risikoklassen nach EU AI Act – Fokus Hochrisiko-KI

• Überblick über alle vier Risikokategorien
• Verbotene KI im Gesundheitswesen (z. B. Emotionserkennung bei Patient*innen)
• Hochrisiko-KI: Warum nahezu alle klinischen Systeme betroffen sind
• Einstufungskriterien
• Klinikspezifische Hochrisiko-Beispiele
  • KI zur Medikamentendosierung

8. AI Act – Pflichten je nach Risikoklasse (Fokus: Krankenhaus als Deployer)

• Verwendung nur konformer Systeme
• Sicherstellung der Human Oversight
• Erforderlichkeit einer DSFA (DSGVO)
• Logging & Datenspeicherung
• Dokumentationspflichten
• Umgang mit Fehlern & Vorfällen (Incident Reporting)
• Pflicht zur Mitarbeiterschulung
• Praxisbeispiele:
  • Monitoring einer Radiologie-KI
  • Dokumentation von Alerts
  • Vorgehen bei fehlerhaften Diagnosen

9. Risikomanagement für KI – praxisnah im Krankenhaus

• Risikoidentifikation & -bewertung
• medizinische Risikometriken
• typische Risikomuster für Diagnostik-KI
• Kontrolle & Monitoring
• PDCA-Zyklus für KI-Systeme im klinischen Dauerbetrieb

10. KI-Richtlinie für das Krankenhaus (Governance-Struktur)

• Erlaubnis-/Verbotsprinzip
• Kriterien für zulässige KI
• Rollen & Verantwortlichkeiten
• PDCA-Zyklus
• Standardprozess für neue KI-Projekte
  (Onboarding → Risikobewertung → Implementierung → Monitoring → Stilllegung)
   

11. Praxisfälle & Workshops

Das Seminar richtet sich an:
 

• Projektverantwortliche in Kliniken

• Digitalisierungs-, Qualitäts- und Risiko-Management

• Datenschutzbeauftragte & IT-Sicherheitsbeauftragte

• Ärztliche Leitung, Pflegedirektion, Stabsstellen Digitalisierung

• Mitarbeitende, die KI-Projekte begleiten oder bewerten müssen.
   

Vorkenntnisse in Datenschutz oder Technik sind hilfreich, aber nicht zwingend.