Detaillierter Kursinhalt
Modul 1 – KI- und Datenkonzepte für die Cybersicherheit
- KI-Konzepte und zentrale KI-Arten
- Generative KI und Transformer
- Maschinelles Lernen und Deep Learning
- Verarbeitung natürlicher Sprache
- Ansätze zum Training von KI-Modellen
- Grundlagen des Prompt-Engineering
- Sicherheitsaspekte bei Modellen
- KI-Datentypen und Techniken zur Datensicherheit
- RAG-Konzepte (Retrieval Augmented Generation)
- Datenintegrität und Kontrollmaßnahmen bei der Datenverarbeitung
Modul 2 – Bedrohungsmodellierung und Absicherung von KI-Systemen
- Grundlagen der KI-Bedrohungsmodellierung
- Prozesse und Voraussetzungen der Bedrohungsmodellierung
- Frameworks zur KI-Bedrohungsmodellierung
- Arten von KI-Sicherheitskontrollen
- Muster für Leitplanken und Eingabeaufforderungen
- Gateway- und Schnittstellensteuerung
- Nutzungsquoten und Begrenzungsmaßnahmen
- Prüfung der Sicherheitskontrollen
Modul 3 – Zugriffskontrollen für KI
- Grundsätze und Modelle der KI-Zugriffskontrolle
- Zugriffskontrollen für Modelle und Agenten
- Sicherheit von APIs und Netzwerkzugriffen
- Sicherheitsmaßnahmen für KI-Daten
- Verschlüsselung und Maßnahmen zur Datensicherheit
- Überwachung und Protokollierung von KI-Systemen
- Leistungs- und Kostenüberwachung
- KI-Audits und Überwachung der Compliance
Modul 4 – Bedrohungen durch KI und Ausgleichsmaßnahmen
- Sicherheit im gesamten Lebenszyklus der KI
- Überlegungen zum ethischen Design von KI
- Arten und Techniken von KI-Angriffen
- Angriffe mit Backdoor- und Trojaner-Modellen
- Modellvergiftung und Inversion
- Modellierung von Diebstahlrisiken
- Ausgleichsregelungsstrategien
- KI-Analyse nach einem Vorfall
Modul 5 – Einsatz von KI im Sicherheitsbetrieb
- KI-gestützte Sicherheitstools
- Anwendungsfälle für KI bei der Erkennung und Analyse
- KI zur Schwachstellenanalyse
- Durch KI verstärkte Angriffsvektoren
- KI für Social Engineering und Täuschung
- KI-Erkennungstechniken
- KI-gestützte Automatisierung
- KI in DevSecOps-Arbeitsabläufen
- KI-Skripterstellung und Zusammenfassung
Modul 6 – KI-Governance, Risiken und Compliance
- Strukturen zur Steuerung künstlicher Intelligenz
- Organisatorische Rollen im Bereich KI
- Grundsätze für verantwortungsvolle KI
- Ermittlung und Bewertung von KI-Risiken
- Themen im Bereich der KI-Regulierung
- Compliance-Rahmenwerke für KI
- Gestaltung der KI-Richtlinien in Organisationen
- Compliance-Berichterstattung