Detaillierter Kursinhalt
Modul 1 – Einführung in generative KI in der Produktion
Themen:
- Generative KI-Operationen
- Traditionelles MLOps vs. GenAIOps
- Komponenten eines LLM-Systems
- RAG/ReAct-Architektur
Ziele:
- Generative KI-Prozesse verstehen
- Vergleich zwischen traditionellem MLOps und GenAIOps
- Analysieren Sie die Komponenten eines LLM-Systems.
- RAG und ReAct definieren und vergleichen
Modul 2 – Einsatz generativer KI-Anwendungen
Themen:
- Optionen für die Anwendungsbereitstellung
- Bereitstellung, Paketierung und Versionierung
Ziele:
- Bewertung der Optionen für die Anwendungsbereitstellung
- Apps bereitstellen, verpacken und versionieren
Aktivitäten:
- Labor: Bereitstellung einer agentenbasierten Anwendung auf Cloud Run
Modul 3 – Generative KI in die Produktion bringen
Themen:
- Wartung und Aktualisierungen
- Prüfung und Bewertung
- CI/CD-Pipelines für KI-gestützte Apps
Ziele:
- LLM-Modelle pflegen und aktualisieren
- Testen und bewerten Sie KI-gestützte Apps
- CI/CD-Pipelines für generative KI-gestützte Anwendungen bereitstellen
Aktivitäten:
- Labor: Versionsverfolgung generativer KI-Anwendungen
Modul 4 – Sicherung generativer KI-Anwendungen
Themen:
- Sicherheitsherausforderungen
- Sofortige Sicherheit
- Schutz sensibler Daten und DLP-API
- Modellpanzerung
Ziele:
- Sicherheitsherausforderungen für allgemeine KI-Anwendungen identifizieren
- Aktuelle Sicherheitsprobleme verstehen
- Anwendung von sensiblen Daten und DLP-API
- Modellpanzerung implementieren
Aktivitäten:
- Labor: Sicherung generativer KI-gestützter Anwendungen
Modul 5 – Beobachtbarkeit für LLM-Systeme in der Produktion
Themen:
- Cloud-Betrieb
- Cloud-Protokollierung
- Überwachung
- Cloud-Verfolgung
- Agentenanalyse und AgentOps
- Alles zusammenfügen
Ziele:
- Beschreiben Sie den Zweck und die Funktionen von Google Cloud Observability.
- Erläutern Sie den Zweck von Cloud Monitoring.
- Erläutern Sie den Zweck von Cloud Logging.
- Erläutern Sie den Zweck von Cloud Trace.
Aktivitäten:
- Labor: Protokollierung, Überwachung und Agentenanalyse