Kursüberblick
Generative KI verändert unweigerlich die Softwarebranche. Tools wie ChatGPT oder GitHub Copilot ermöglichen es Entwicklern, effizienter als je zuvor zu programmieren. Dies weckt zwar Begeisterung, aber auch Bedenken, und so neigen viele Beteiligte dazu, diesen Optimismus durch Vorsicht auszugleichen. Obwohl diese Tools rasante Fortschritte machen, fehlt es ihnen bis heute an der nötigen Raffinesse, um verschiedene subtile, aber wichtige Aspekte von Softwareprodukten zu berücksichtigen. Dieser Kurs betont, wie wichtig es ist, diese Entwicklung anhand der bewährten Grundsätze der verantwortungsvollen KI zu verstehen.
Der Kurs beleuchtet die Möglichkeiten und Grenzen von generativen KI-Tools (GenAI) - wie GitHub Copilot, Codeium oder anderen - und bietet Einblicke in ihre Rolle bei der Codegenerierung und darüber hinaus. Die Themen umfassen intelligentes Prompt-Engineering, nicht nur während der Implementierungsphase, sondern auch während der Anforderungserfassung, des Designs, der Tests und der Wartung. Die Teilnehmer lernen die besten Praktiken und die Fallstricke bei der Verwendung von KI-generiertem Code kennen. In praktischen Übungen werden potenzielle Sicherheitslücken wie Halluzinationen von Abhängigkeiten und Pfadüberquerungen demonstriert. Am Ende werden Software-Ingenieure und -Manager ein klares Verständnis dafür haben, wie sie GenAI-Tools verantwortungsvoll in die verschiedenen Phasen des Software-Entwicklungszyklus integrieren können.
Zielgruppe
Alle Personen, die an der Nutzung von GenAI oder der Entwicklung von maschinellem Lernen beteiligt sind
Voraussetzungen
Allgemeine Entwicklung
Kursziele
- Verschiedene Aspekte der verantwortungsvollen AI verstehen
- Wie man generative KI verantwortungsvoll in der Softwareentwicklung einsetzt
- Schnelles Engineering für optimale Ergebnisse
- Wie man generative KI im gesamten SDLC einsetzt
Kursinhalt
Eine kurze Geschichte der Künstlichen Intelligenz
- Die Ursprünge der KI
- Neuronale Netze und "Wahrscheinlichkeitsmaschinen"
- Frühe ML-Codierungstools
- Die KI-Codierrevolution der 2020er Jahre
- Bedrohungen für ML-Systeme
Verantwortungsvolle AI
- Was ist verantwortungsvolle KI?
- Rechenschaftspflicht und Transparenz
- Verringerung schädlicher Verzerrungen
- Gültigkeit und Zuverlässigkeit
- Gültigkeit und Zuverlässigkeit - Nicht-Determinismus des Codes
- Demonstration - Experimentieren mit Gültigkeit und Zuverlässigkeit in Copilot
- Erklärbarkeit und Interpretierbarkeit
- Sicherheit, Schutz, Privatsphäre und Widerstandsfähigkeit
- Sicherheit und verantwortungsvolle KI in der Softwareentwicklung
GenAI verantwortungsvoll in der Softwareentwicklung einsetzen
- Grundlagen der LLM-Codeerzeugung
- Grundlegende Bausteine und Konzepte
- Eingabeaufforderung für Vorlagen
- Systemaufforderungen zur KI-gesteuerten Codierung
- GenAI-Werkzeuge für die Kodierung: Copilot, Codeium und andere
- Kann KI... Ihre Produktivität steigern?
- Kann KI... die "langweiligen Teile" übernehmen?
- Kann AI... gründlicher sein?
- Überprüfung des generierten Codes - der Blackbox-Blues
- Die Gefahr von Halluzinationen
- Kann KI... dir beibringen, wie man (besser) programmiert?
- Demonstration - Experimentieren mit einer unbekannten API in Copilot
- Die Auswirkungen von GenAI auf die Programmierkenntnisse
- Einige weitere langfristige Auswirkungen der Nutzung von GenAI
- Wo die KI-Codegenerierung nicht gut abschneidet
- Schnelles Engineering
- Warum ist ein guter Souffleur so wichtig?
- Schaffung des Kontexts für generative KI
- Null-Schuss-, Ein-Schuss- und Wenig-Schuss-Eingabeaufforderung
- Vernunftbasiertes Prompt-Engineering, Gedankenkette
- Demonstration - Experimentieren mit Eingabeaufforderungen in Copilot
- Durchsetzung und Einhaltung von Token-Limits
- Aufforderungsmuster
- Prompt-Muster und Prompt-Priming
- Die 6 Kategorien von Aufforderungsmustern
- Aufforderungsmuster: Meta-Sprache erstellen
- Aufforderungsmuster: Persona
- Aufforderungsmuster: Visualisierungs-Generator
- Aufforderungsmuster: Faktencheck-Liste
- Aufforderungsmuster: Alternative Lösungsansätze
- Aufforderungsmuster: Verweigerungsbrecher
- Aufforderungsmuster: Umgekehrte Interaktion
- Aufforderungsmuster: Kontext-Manager
- Einige weitere Souffleur-Ansätze
- Least-to-Most und Self-Planning: Zerlegung komplexer Aufgaben
- Demonstration - Aufgabenzerlegung mit Copilot
- Prompt-Engineering-Techniken für Verfeinerung und Iteration
- Einheitstests, TDD und GenAI
- Demonstration - Testbasierte Codegenerierung mit Copilot
Integration von generativer KI in den SDLC
- Einsatz von GenAI über die Codegenerierung hinaus
- Einsatz von AI bei der Anforderungsspezifikation
- Aufforderungsmuster für die Erfassung von Anforderungen
- Softwareentwicklung und KI
- Prompt-Muster für den Softwareentwurf
- Demonstration - Anforderungserfassung und API-Design mit Copilot
- Einsatz von AI bei der Umsetzung
- Prompt-Muster für die Umsetzung
- Demonstration - Auffinden versteckter Annahmen mit Copilot
- Einsatz von AI bei Tests und QA
- Einsatz von AI bei der Wartung
- Aufforderungsmuster für das Refactoring
- Demonstration - Experimentieren mit Code-Refactoring in Copilot
- Aufforderungsmuster für die Simulation von Änderungsanträgen
Sicherheit von KI-generiertem Code
- Sicherheit von KI-generiertem Code
- Praktische Angriffe auf Tools zur Codegenerierung
- Abhängigkeits-Halluzination durch generative KI
- Fallstudie - Eine Geschichte der Schwächen von GitHub Copilot (bis Mitte 2024)
- Ein Beispiel für eine Schwachstelle
- Pfadüberquerung
- Demonstration - Pfadüberquerung
- Beispiele für die Pfadüberquerung
- Bewährte Verfahren zur Pfadüberquerung
- Demonstration - Kanonisierung von Pfaden
- Demonstration - Experimentieren mit der Pfadverfolgung in Copilot
Zusammenfassung und Schlussfolgerungen
- Verantwortungsvolle KI-Prinzipien in der Softwareentwicklung
- Generative AI - Ressourcen und zusätzliche Anleitungen
Dieser Text wurde automatisiert übersetzt. Um den englischen Originaltext anzuzeigen, klicken Sie bitte hier.