Live-Online: Operationalize Machine Learning & Gen AI Solutions (AI-300): MLOps für generative KI auf der Azure-Plattform – das offizielle Microsoft-Training

1. Experimentieren mit Azure Machine Learning

Erfahre, wie du mit automatisiertem maschinellem Lernen (AutoML), MLflow-verfolgten Notebooks und dem Dashboard für verantwortungsvolle KI das beste Modell für maschinelles Lernen findest.

2. Hyperparameter-Tuning mit Azure Machine Learning durchführen

Erfahre, wie du Hyperparameter-Tuning mit einem Sweep-Job in Azure Machine Learning durchführst.

3. Pipelines in Azure Machine Learning ausführen

Erfahre, wie du Komponenten erstellst und verwendest, um Pipelines in Azure Machine Learning zu erstellen. Führe Azure Machine Learning-Pipelines aus und plane sie, um Machine-Learning-Workflows zu automatisieren.

4. Azure Machine Learning-Jobs mit GitHub Actions auslösen

Erfahre, wie du deine Machine-Learning-Workflows mithilfe von GitHub Actions automatisierst.

5. Auslösen von GitHub Actions mit featurebasierter Entwicklung

Erfahre, wie du deinen Hauptzweig schützt und Aufgaben im Machine-Learning-Workflow basierend auf Änderungen am Code auslöst.

6. Arbeiten mit Umgebungen in GitHub Actions

Erfahre, wie du ein Machine-Learning-Modell trainierst, testest und bereitstellst, indem du Umgebungen als Teil deiner MLOps-Strategie nutzt.

7. Bereitstellen eines Modells mit GitHub Actions

Erfahre, wie du die Modellbereitstellung mit GitHub Actions und der Azure Machine Learning-CLI (v2) automatisierst und testest.

8. Planen und Vorbereiten einer GenAIOps-Lösung

Erfahre, wie du Chat-Anwendungen mit Sprachmodellen unter Verwendung eines Code-First-Entwicklungsansatzes entwickelst. Durch die Code-First-Entwicklung generativer KI-Apps kannst du robuste und reproduzierbare Abläufe erstellen, die für generative KI-Operationen (GenAIOps) von entscheidender Bedeutung sind.

9. Verwalten von Prompts für Agenten in Microsoft Foundry mit GitHub

Erfahre, wie du KI-Prompts als versionierte Assets mithilfe von GitHub verwaltest. Wende Best Practices der Softwareentwicklung an, um Prompt-Versionen zu erstellen, zu testen und zu veröffentlichen, die in Microsoft Foundry als Teil eines GenAIOps-Workflows verwendet werden.

10. Bewerten und Optimieren von KI-Agenten durch strukturierte Experimente

Erfahre, wie du KI-Agenten durch strukturierte Evaluierung optimierst und Vermutungen in evidenzbasierte technische Entscheidungen umwandelst. Du lernst, wie du Evaluierungsexperimente mit klaren Metriken für Qualität, Kosten und Leistung entwirfst, Experimente mithilfe von Git-basierten Workflows organisierst, Bewertungsrubriken für eine einheitliche Bewertung erstellst und Ergebnisse vergleichst, um fundierte Optimierungsentscheidungen zu treffen.

11. Automatisieren von KI-Bewertungen mit Microsoft Foundry und GitHub Actions

Erfahre, wie du mithilfe von Microsoft Foundry-Evaluatoren automatisierte Bewertungen für die Antworten von KI-Agenten implementierst, Bewertungsdatensätze aus Produktionsdaten und synthetisch generierten Daten erstellst, Batch-Bewertungen mit Python-Skripten ausführst und Bewertungsworkflows zur kontinuierlichen Qualitätssicherung in GitHub Actions integrierst.

12. Überwachen deiner generativen KI-Anwendung

Erfahre, wie du die Leistung deiner generativen KI-Anwendung mit Microsoft Foundry überwachst. In diesem Modul lernst du, wichtige Kennzahlen wie Latenz und Token-Verbrauch zu verfolgen, um fundierte und kosteneffiziente Bereitstellungsentscheidungen zu treffen.

13. Analysieren und Debuggen deiner generativen KI-App mit Tracing

Erfahre, wie du Tracing in deinen generativen KI-Anwendungen mithilfe von Microsoft Foundry und OpenTelemetry implementierst. In diesem Modul lernst du, detaillierte Ausführungsabläufe zu erfassen, komplexe Workflows zu debuggen und das Anwendungsverhalten zu verstehen, um die Zuverlässigkeit zu verbessern und die Anwendung zu optimieren.

Anforderungen:

• Programmiererfahrung mit Python oder R
• Erfahrung in der Entwicklung und dem Training von Machine-Learning-Modellen
• Vertrautheit mit den grundlegenden Konzepten von Azure Machine Learning
• Vertrautheit mit Git-Workflows zur Versionskontrolle
• Erfahrung mit Microsoft Azure AI Foundry oder ähnlichen KI-Entwicklungsplattformen

• Verwalte den Lebenszyklus von ML-Modellen mithilfe von AutoML, MLflow-Tracking und dem Responsible-AI-Dashboard
• Optimiere die Modellleistung durch Definition eines Suchraums für Hyperparameter und Ausführung von Sweep-Jobs
• Automatisiere MLOps-Workflows durch Erstellung von Azure-ML-Pipelines und deren Absicherung mit Service Principals und GitHub Actions
• Setze robuste Bereitstellungspraktiken mithilfe von featurebasierter Entwicklung, Branch-Schutz und Genehmigungsschritten in allen GitHub-Umgebungen durch
• Verstehe die Grundlagen generativer KI, einschließlich Anwendungsfällen, Modellauswahl und GenAIOps für das Anwendungs-Lebenszyklusmanagement
• Wende Versionskontrolle auf Prompts als Code-Assets an und entwirf GitHub-Repositories für sicheres Testen und Bereitstellen
• Entwirf GenAI-Bewertungsexperimente unter Verwendung klarer Metriken, Git-basierter Workflows und Rubriken für automatisierte und manuelle Qualitätssicherung
• Überwache GenAI-Anwendungen auf Produktionsreife, verfolge wichtige Metriken (Latenz, Token-Verbrauch) und richte Tracing zur Identifizierung von Leistungsengpässen ein

Dieser Kurs richtet sich an Data Scientists, Machine-Learning-Ingenieur:innen und DevOps-Expert:innen, die produktionsreife KI-Lösungen auf Azure entwerfen und betreiben möchten.

Er eignet sich für Teilnehmende mit Python-Erfahrung, grundlegenden Kenntnissen der Konzepte des maschinellen Lernens und grundlegender Vertrautheit mit DevOps-Praktiken wie Quellcodeverwaltung, CI/CD und Befehlszeilentools, die sich darauf vorbereiten, MLOps- und GenAIOps-Workflows mithilfe von Azure-nativen Diensten zu implementieren.