End-to-End-KI-Entwicklung auf der Gemini Enterprise Agent Platform

• Tag 1: Von den Daten zum trainierten Modell
• 1. Die Gemini Enterprise Agent Platform einordnen
  
  • Der Übergang von Vertex AI zur Gemini Enterprise Agent Platform
  • Der Aufbau der Plattform: Modelle, Training, Bereitstellung und Agenten
  • Was sich für bestehende Vertex-AI-Projekte ändert und was bleibt
  • Die Abgrenzung zu anderen Plattformen wie Amazon SageMaker und Azure Machine Learning
  
  
• 2. Datenaufbereitung und Feature Engineering
  
  • Daten aus BigQuery und Cloud Storage anbinden
  • Vorverarbeitung mit dem Managed Service for Apache Spark und Dataflow
  • Feature Engineering und der Feature Store
  • Datenqualität, Schemaprüfung und Verzerrungserkennung
  • Kontinuierliche Datenintegration in Pipelines
  
  
• 3. Modelle trainieren: AutoML und eigenes Training
  
  • AutoML auf der Agent Platform für strukturierte Daten, Bild und Text
  • Eigenes Training mit TensorFlow, PyTorch und XGBoost
  • Verteiltes Training und die Wahl der Hardware zwischen CPU, GPU und TPU
  • Die Abwägung: AutoML für schnelle Ergebnisse, eigenes Training für Kontrolle
  • Experimentverfolgung und Metadatenverwaltung
  
  
• 4. Foundation Models und Model Garden
  
  • Der Model Garden mit einer breiten Auswahl von Modellen, darunter die Gemini-Familie
  • Das passende Modell für eine Aufgabe auswählen
  • Foundation Models feinabstimmen, unter anderem über BigQuery
  • Wann ein eigenes Modell und wann ein Foundation Model die bessere Wahl ist
  
  
• Praxis-Übung (Tag 1): Einen Datensatz aus BigQuery aufbereiten, mit AutoML ein Modell trainieren, parallel ein eigenes Trainingsskript ausführen und die beiden Ergebnisse gegen Genauigkeit, Trainingszeit und Kosten vergleichen; anschließend im Model Garden ein passendes Foundation Model für eine ergänzende Textaufgabe auswählen.
• Tag 2: Bereitstellen, betreiben, integrieren
• 5. Modelle bereitstellen und skalieren
  
  • Batch- und Onlineinferenz auf der Agent Platform
  • Endpunkte konfigurieren, Lastverteilung und automatische Skalierung
  • Modelle im Model Registry organisieren und versionieren
  • Vorgefertigte und eigene Container einsetzen
  • Rollout-Strategien wie Canary und A/B-Tests
  
  
• 6. Überwachung, Protokollierung und Optimierung
  
  • Modelle mit Cloud Monitoring und Cloud Logging überwachen
  • Modell- und Datendrift sowie Skew erkennen
  • Leistungskennzahlen auswerten und Engpässe finden
  • Neutraining auslösen und Modelle aktuell halten
  • Kosten der Inferenz steuern
  
  
• 7. Integration und Automatisierung
  
  • Anbindung an bestehende Datenquellen und IT-Systeme
  • REST-APIs und SDKs zur Automatisierung
  • ML-Pipelines und die Anbindung an CI/CD
  • Der Übergang zu Agenten: wann ein Modell genügt und wann ein Agent nötig ist
  
  
• 8. Verantwortungsvolle KI und Sicherheit
  
  • Verzerrung erkennen und Fairness bewerten
  • Erklärbarkeit von Modellentscheidungen
  • Datenschutz, Datenresidenz und Zugriffssteuerung über IAM
  • Schutzmechanismen für generative Ausgaben
  • Die Anforderungen der EU-KI-Verordnung einordnen
  
  
• Praxis-Übung (Tag 2, Peer-Review): Das Modell aus Tag 1 auf einem Endpunkt bereitstellen, im Model Registry versionieren, eine Driftüberwachung mit Warnung einrichten und über eine API in eine Beispielanwendung einbinden; anschließend die Gesamtlösung einer anderen teilnehmenden Person gegen Datenaufbereitung, Modellwahl, Bereitstellung, Überwachung und verantwortungsvolle Nutzung prüfen lassen.
  
  
  
  

• Data Scientists und Machine-Learning-Ingenieurinnen und -Ingenieure
• Systemarchitekten und IT-Fachkräfte mit KI-Verantwortung
• Entwickelnde, die Modelle produktiv machen wollen
• Umsteigende von Vertex AI auf die Gemini Enterprise Agent Platform

Voraussetzungen: Die Teilnehmenden bringen Grundkenntnisse des maschinellen Lernens und Programmiererfahrung mit, idealerweise in Python. Erste Berührung mit Google Cloud ist hilfreich, aber nicht zwingend.