Azure OpenAI Service: Architektur, Einstieg, Praxis

Azure OpenAI Service und Betriebsmodell

• Service-Überblick und Einsatzgrenzen
• Modelle, Deployments und Endpoints
• Quotas, Kostenlogik und Skalierung
• Regionen, Verfügbarkeit und Updates

GenAI-Architektur in Azure

• Referenzarchitekturen für Chat-Anwendungen
• RAG-Architektur für Unternehmenswissen
• Automatisierung und toolgestützte Workflows
• Dev-, Test- und Prod-Trennung

Netzwerk, Identität und Governance

• VNet-Design und Private Endpoints
• Managed Identity und Rollenmodell
• Richtlinien, Schlüssel und Berechtigungen
• Auditierbarkeit und Betriebsverantwortung

Prompting, Tools und Azure AI Studio

• System- und Entwickleranweisungen
• Prompt-Varianten und Testläufe
• Function Calling als Architekturkonzept
• Evaluierung mit Azure AI Studio

RAG mit Azure-Diensten

• Embeddings und Chunking-Strategien
• Retrieval-Strategien für Wissensbestände
• Azure AI Search als Vektorsuche
• Hybrid-Suche und Index-Aktualisierung

Security, Responsible AI und Go-live

• Content Safety und Guardrails
• Prompt Injection und Datenabfluss
• Logging mit Application Insights
• Regressionstests und Go-live Checkliste

• Grundkenntnisse in Azure-Ressourcen, Resource Groups und Identitäten
• Grundverständnis von APIs, Webanwendungen und Cloud-Architekturen
• Hilfreich: Erfahrung mit Azure-Administration, zum Beispiel aus dem AZ-104 Training
• Für Security-Schwerpunkte sinnvoll: Grundlagen aus dem AZ-500 Azure Security Training

• Cloud- und Solution-Architektinnen und Cloud- und Solution-Architekten, die GenAI-Lösungen in Azure planen oder bewerten
• IT-Sicherheitsverantwortliche, Governance-Teams und Plattform-Teams mit Anforderungen an Identity, Netzwerk, Audit und Compliance
• Entwicklerinnen und Entwickler, die Azure OpenAI Service in Webanwendungen, APIs oder Automatisierungsprozesse integrieren
• Data- und AI-Engineers, die RAG-Szenarien, Azure AI Search und produktionsnahe Retrieval-Prozesse aufbauen