Detaillierter Kursinhalt
Modul 1 – Das neue Agentenparadigma und die Bedrohungslandschaft
Themen:
- Chatbots vs. handlungsfähige autonome Agenten
- Die Möglichkeiten, die sich durch den Zugriff auf Ihre KI-Agenten ergeben
- Googles Verteidigungsstrategie
Ziele:
- Machen Sie sich die Gefahren beim Einsatz von KI-Agenten bewusst.
- Ermitteln Sie Angriffsvektoren für Ihre Agenten.
- Entdecken Sie Googles Verteidigungsstrategie mit den Projekten PISA und SAIF
Modul 2 – Sicherheitsvorkehrungen für Inhalte
Themen:
- ADK-eigene Mechanismen zum Schutz von Inhalten.
- Agent Gateway als externes Durchsetzungsinstrument.
- Model Armor erkennt und blockiert Prompt-Injection- und Jailbreak-Angriffe.
- Cloud-DLP zur Analyse datensensibler Informationen.
Ziele:
- Implementieren Sie Callbacks, um die Nachrichten vor und nach ihrer Weiterleitung an Tools und Agenten zu überprüfen und so Angriffe in den Nachrichten zu erkennen und zu verhindern.
- Stellen Sie das Agent Gateway als zentralen Punkt zur Durchsetzung von Richtlinien bereit.
- Konfigurieren Sie die „Model Armor“-Vorlagen so, dass sie Prompt-Injection- und Jailbreak-Angriffe erkennen und abwehren.
- Integrieren Sie Cloud-DLP-Vorlagen zur Anonymisierung in Model Armor, um sensible Informationen wie Sozialversicherungsnummern in Modellantworten zu maskieren.
Modul 3 – Identitäts- und Zugriffskontrolle (IAM und IAP)
Themen:
- Agentenregister und IAM-Richtlinien für Workloads und Agenten
- Agenten-ID zur Identifizierung von Agenten
- Common Expression Language (CEL) zur Durchsetzung von Zugriffsgrenzen.
Ziele:
- Integrieren Sie das Agent Gateway mit der Agent Registry und den IAM-Richtlinien, um die Agent-Workloads zu steuern.
- Konfigurieren und implementieren Sie eindeutige Agent-Identitäten mithilfe von mTLS.
- Implementieren Sie werkzeugspezifische Autorisierungsrichtlinien mithilfe der Erweiterung REQUEST_AUTHZ.
- Erstellen Sie Richtlinien in der Common Expression Language (CEL), um detaillierte, bedingungsbasierte Zugriffsbeschränkungen durchzusetzen.
Aktivitäten:
- Labor: Sichere Agent-Tools mit Google Cloud Agent Identity und Auth Manager
Modul 4 – Netzwerksicherheit
Themen:
- Strategien zur Netzwerksegmentierung und Mikrosegmentierung für die Kommunikation zwischen Agenten.
- Sicherung der Datenübertragung mithilfe von mTLS und privaten Endpunkten.
- Konfigurieren von Firewall-Regeln und VPC-Service-Controls für Agenten
Ziele:
- Implementieren Sie Strategien zur Netzwerksegmentierung und Mikrosegmentierung für die Kommunikation zwischen Agenten.
- Sichere Datenübertragung zwischen Agenten und externen Diensten mithilfe von mTLS und privaten Endpunkten.
- Konfigurieren Sie Firewall-Regeln und VPC-Dienstkontrollen, um den Zugriff des Agenten einzuschränken.
Modul 5 – Auffindbarkeit und Beobachtbarkeit
Themen:
- Erkennung von Tools und Agenten.
- Beobachtbarkeit in Ihrem gesamten Agent-Ökosystem.
- Gesamtdauer der Interaktionen mit den Agenten.
Ziele:
- Registrieren und verwalten Sie Google-APIs und MCP-Server von Drittanbietern in der Agent Registry.
- Konfigurieren Sie einen Agent Development Kit-Agenten so, dass er Tools zur Laufzeit dynamisch erkennt und eine Verbindung zu ihnen herstellt.
- Analysieren Sie verteilte Traces in Cloud Trace, um Sicherheitsrichtlinien und die Ausführungswege von Tools zu überprüfen.
Modul 6 – Überwachung und Steuerung
Themen:
- Beobachten Sie die bereitgestellten Agenten.
- Schützen Sie sich vor der Erkennung semantischer Angriffe, Verstößen gegen Ausgangsregeln und dem Missbrauch von Anmeldedaten.
Ziele:
- Erkennt anhaltende Versuche einer sofortigen Injektion, Jailbreak-Payloads oder Jailbreak-ähnliche Abtastmuster über die Laufzeit der Agenten hinweg.
- Löst kritische Warnmeldungen aus, wenn eine Agent-Laufzeitumgebung versucht, das Agent-Gateway zu umgehen oder eine Verbindung zu nicht zugelassenen IP-Adressen herzustellen.
- Zeigt eine ungewöhnliche Nutzung von automatisch bereitgestellten Agent-Identitätstoken an (z. B. wenn ein Agent-Identitätstoken von einer Workstation-IP außerhalb der festgelegten Google Cloud VPC verwendet wird).