Detaillierter Kursinhalt
Zentrale Grundlagen
gen KI-Grundlagen
Erfahren, was GenAIOps ist und wie Large Language Models funktionieren, einschließlich Tokenisierung, Kontextfenstern und der Faktoren, die das Verhalten und die Performance von Modellen beeinflussen
Experimentieren mit Prompts
Erfahren, wie mit System-Prompts und Nutzer-Prompts effektive Prompts erstelllt, Temperatur- und Ausgabeparameter konfiguriert und Prompts für bestimmte Use Cases optimiert werden können
Evaluierung Ihrer ersten KI-fähigen Anwendung
Implementieren einer Prompt-Versionierung, Aufbau von Evaluierungspipelines, Automatisieren von Tests sowie systematisches Bewerten der Anwendungsqualität
Einführung in die Orchestrierungsebene
Einführen einer Orchestrierungsebene zur Erstellung von gen KI-Anwendungen, Bereitstellen von Backend Services und Implementieren von GitOps-Praktiken für Continuous Deployment
Fortgeschrittene Themen
Integration und Orchestrierung
Bereitstellen von Vektordatenbanken, Erstellen von RAG-Pipelines für kenntnisbasierte Anwendungen, Implementieren von Tool Calling und Erstellen autonomer KI-Agenten
Sicherheit und Beobachtbarkeit
Bereitstellen von KI-Sicherheitsrichtlinien, Implementieren von gen KI-Sicherheitspraktiken und der 3 Säulen der Beobachtbarkeit: Metriken, Protokolle und Traces
Modellierungstechniken
Kennenlernen von Small Language Models für effizientes Deployment und multimodale Modellfunktionen für die Verarbeitung unterschiedlicher Eingabetypen
Optimierung und Deployment
Anwenden von Quantisierungs- und Komprimierungstechniken für verbesserte Performance, Untersuchen von Fine Tuning-Ansätzen, Implementieren von Models as a Service (MaaS) und Zusammenführen dieser Faktoren in einem Produktiv-Deployment