Bitte wählen Sie die Bereiche, die Sie exportieren möchten:
Schulung KI-Sicherheit: LLM- und Agenten-Anwendungen absichern
Prompt-Injection, RAG, Agenten und MCP sicher machen
Schulungsformen
Offene Schulung
- 3 Tage
- 5 gesicherte Termine
- Köln / Online
- 2.030,00 p. P. zzgl. MwSt.
- Dritter Mitarbeitende kostenfrei
- Learning & Networking in einem. Garantierte Durchführung ab 1 Teilnehmenden.
Inhouse-/Firmenschulung
- 3 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
Individualschulung
- 3 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Beschreibung
Dieser dreitägige Kurs führt praxisnah durch diese Verteidigung. Der erste Tag behandelt die LLM-Bedrohungen und die Abwehr in der Tiefe, der zweite die Sicherheit von RAG, Agenten und Werkzeugen samt MCP, der dritte Red-Teaming, Guardrails und Governance. Gegründet ist alles auf anerkannte Rahmenwerke und reale Vorfälle. Eine praktische Übung am Ende jedes Tages verankert das Gelernte an einer durchgehenden Beispielanwendung.
Vertiefen Sie Ihr Wissen mit einer weiteren KI Weiterbildung aus unserem Angebot.
Schulungsziel
Jede teilnehmende Person verlässt das Seminar mit der Fähigkeit, LLM- und Agenten-Anwendungen systematisch abzusichern. Sie kennt die aktuellen OWASP-Top-10 für LLM- und agentische Anwendungen, wehrt Prompt-Injection und ihre Folgen mit einer Verteidigung in der Tiefe ab, sichert RAG-, Werkzeug- und MCP-Anbindungen, führt ein Red-Teaming mit passenden Werkzeugen durch, setzt Guardrails als eine Schicht der Verteidigung ein, dämmt Schatten-KI ein und ordnet ihr Vorgehen in NIST AI RMF, MITRE ATLAS, ISO/IEC 42001 und die EU-KI-Verordnung ein.
Details
Inhalt
- Ziele und Erwartungen der Teilnehmenden
- Klärung individueller Lernziele und Erwartungen für ein praxisnahes und relevantes Seminar
- Tag 1: 1. KI-Sicherheit einordnen
- Warum KI-Sicherheit ein eigenes Feld ist und wie sich die Bedrohungslage 2026 darstellt
- Der Unterschied zwischen Modell-, Anwendungs- und Agenten-Sicherheit
- Verteidigung in der Tiefe als Grundprinzip: keine Einzelmaßnahme genügt
- 2. Die OWASP Top 10 für LLM-Anwendungen 2026
- Aufbau und Zweck der Liste als Referenzklassifikation, nicht als Compliance-Rahmen
- Die zehn Kategorien im Überblick
- Neue Einträge wie System-Prompt-Leakage und Schwächen bei Vektoren und Einbettungen
- Die eigene Anwendung gegen das passende Bedrohungsmodell abbilden
- 3. Prompt-Injection als Hauptangriff
- Direkte und indirekte Prompt-Injection
- Wie eine Injektion die Vorgaben des System-Prompts überschreibt
- Der reale Slack-KI-Vorfall von 2024 als Lehrbeispiel für Datenexfiltration
- Warum sich Prompt-Injection nicht mit einer einzigen Kontrolle verhindern lässt
- 4. System-Prompt-Leakage und Datenoffenlegung
- Wie System-Prompts ungewollt preisgegeben werden
- Sensible Informationen in Ausgaben erkennen und verhindern
- Geheimnisse nicht in den Prompt legen
- 5. Verteidigung in der Tiefe für LLM-Anwendungen
- Eingabeprüfung und Ausgabebehandlung kombinieren
- Geringste Rechte für das Modell und seine Anbindungen
- Ratenbegrenzung und Mensch-im-Kreis bei wirkungsvollen Aktionen
- Protokollierung und Erkennung verdächtigen Verhaltens
- Praxis-Übung Tag 1: Eine bereitgestellte LLM-Chat-Anwendung gegen die OWASP LLM Top 10 prüfen, eine direkte und eine indirekte Prompt-Injection ausführen und anschließend mindestens zwei Abwehrschichten - Eingabeprüfung und Ausgabebehandlung - einbauen und die Wirkung belegen.
- Tag 2: 6. RAG- und Vektor-Sicherheit
- Schwächen bei Vektoren und Einbettungen als neue Angriffsfläche
- Indirekte Prompt-Injection über vergiftete Wissensquellen
- Zugriffsrechte und Mandantentrennung im Vektorspeicher
- Herkunft und Vertrauenswürdigkeit der eingebetteten Inhalte prüfen
- 7. Lieferkette und Datenvergiftung
- Risiken aus Modellen, Datensätzen und Abhängigkeiten
- Datenvergiftung beim Training und beim Feintuning
- Eine Stückliste der KI-Bestandteile führen
- Herkunft und Integrität von Modellen absichern
- 8. Die OWASP Top 10 für agentische Anwendungen 2026
- Warum Agenten neue Schwachstellenklassen jenseits der Prompt-Ebene erzeugen
- Zielverfehlung, Werkzeugmissbrauch und übermäßige Autonomie
- Delegiertes Vertrauen, Agenten-Kommunikation und dauerhafte Gedächtnisvergiftung
- Emergentes Verhalten am realen ROME-Vorfall, bei dem ein Agent unaufgefordert eine Krypto-Mining-Operation aufbaute
- Menschliche Kontrollpunkte vor unumkehrbaren Aktionen
- 9. Werkzeug- und MCP-Sicherheit
- Werkzeuge und Funktionsaufrufe als Angriffsfläche absichern
- Berechtigungen je Werkzeug streng begrenzen
- MCP-Anbindungen und ihre Vertrauensgrenzen prüfen
- Werkzeugketten und ihre kaskadierenden Risiken
- Praxis-Übung Tag 2: Einen einfachen Agenten mit Werkzeug- und RAG-Anbindung angreifen - über eine vergiftete Wissensquelle eine indirekte Prompt-Injection auslösen - und ihn anschließend über strenge Werkzeugrechte, Quellenprüfung und einen menschlichen Kontrollpunkt absichern.
- Tag 3: 10. Red-Teaming von KI-Systemen
- Red-Teaming als systematisches Testen gegen die Rahmenwerke
- Automatisierte, mehrstufige Angriffe erzeugen
- Werkzeuge wie Promptfoo, DeepTeam und ARTKIT einsetzen
- MITRE ATLAS als Landkarte der Angreifertaktiken
- Ergebnisse bewerten und in die Entwicklung zurückführen
- 11. Guardrails und Laufzeitschutz
- Guardrails als eine Schicht der Verteidigung, nicht als alleinige Lösung
- Lösungen wie Llama Guard, LlamaFirewall und Bedrock Guardrails einordnen
- Eingaben und Ausgaben zur Laufzeit filtern und erden
- Grenzen von Guardrails ehrlich benennen
- 12. Schatten-KI eindämmen
- Warum Schatten-KI die zentrale betriebliche Herausforderung bleibt, wenn Nutzer Kontrollen über private Konten umgehen
- Sichtbarkeit über die eingesetzten KI-Bestandteile schaffen
- Zugelassene Werkzeuge und klare Regeln
- 13. Governance und Compliance
- NIST AI RMF mit dem GenAI-Profil als Katalog von Risikomaßnahmen
- ISO/IEC 42001 als erste zertifizierbare KI-Management-Norm
- Die EU-KI-Verordnung mit Bußgeldern bis 35 Millionen Euro
- KI-Sicherheit in die bestehenden Sicherheitsabläufe integrieren
- Praxis-Übung Tag 3 (Peer-Review): Für die über die drei Tage abgesicherte Anwendung ein Red-Teaming mit einem der Werkzeuge durchführen, ein passendes Guardrail ergänzen und das Absicherungs- und Governance-Konzept einer anderen teilnehmenden Person gegen die OWASP-Listen, das Red-Teaming-Ergebnis und die Rahmenwerke prüfen und die Rückmeldungen einarbeiten.
Zielgruppe & Vorkenntnisse
- Entwicklerinnen und Entwickler sowie Architektinnen von KI-Anwendungen
- Security-Fachkräfte und AppSec-Teams
- DevSecOps-Verantwortliche
- Technische Verantwortliche für KI-Governance und Compliance
Ihre Schulung
In Präsenz | Online |
|---|---|
| Lernmethode | |
Ausgewogene Mischung aus Theorie und praktischen Übungen auf persönlichem Schulungs-PC. | Wie auch bei unseren Präsenz-Seminaren: Ausgewogene Mischung aus Theorie und praktischen Übungen. Trainer durchgehend präsent. |
| Unterlagen | |
Seminarunterlagen oder Fachbuch inklusive. Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. | Seminarunterlagen oder Fachbuch inklusive (via DHL). Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. |
| Arbeitsmaterialien | |
DIN A4 Block, Notizblock, Kugelschreiber, USB-Stick, Textmarker, Post-its | |
| Teilnahmezertifikat | |
Nach Abschluss des Seminars erhalten Sie das Teilnahmezertifikat inkl. Inhaltsverzeichnis per E-Mail als PDF. | |
Organisation
In Präsenz | Online | |
|---|---|---|
| Teilnehmendenzahl | ||
min. 1, max. 8 Personen | ||
| Garantierte Durchführung | ||
Ab 1 Teilnehmenden* | ||
| Schulungszeiten | ||
| ||
| Ort der Schulung | ||
 GFU SchulungszentrumAm Grauen Stein 27 51105 Köln-Deutz oder online im Virtual Classroom oder europaweit bei Ihnen als Inhouse-Schulung Um ein optimales Raumklima zu gewährleisten, haben wir das Schulungszentrum mit 17 hochmodernen Trotec TAC V+ Luftreinigern ausgestattet. Diese innovative Filtertechnologie (H14 zertifiziert nach DIN EN1822) sorgt dafür, dass die Raumluft mehrfach pro Stunde umgewälzt wird und Schadstoffe zu 99.995% im HEPA-Filter abgeschieden und infektiöse Aerosole abgetötet werden. Zusätzlich sind alle Räume mit CO2-Ampeln ausgestattet, um jederzeit eine hervorragende Luftqualität sicherzustellen. | ||
| Räumlichkeiten | ||
Helle und modern ausgestattete Räume mit perfekter Infrastruktur | Bequem aus dem Homeoffice von überall | |
| Preisvorteil | ||
Dritter Mitarbeitende nimmt kostenfrei teil. Eventuell anfallende Prüfungskosten für den dritten Teilnehmenden werden zusätzlich berechnet - auch bei Seminaren inkl. Prüfungsgebühr. Hinweis: Um den Erfolg der Schulung zu gewährleisten, sollte auch der dritte Teilnehmende die erwarteten Vorkenntnisse mitbringen. | ||
| KOMPASS — Förderung für Solo-Selbstständige | ||
Solo-Selbstständige können für dieses Seminar eine Förderung via KOMPASS beantragen. | ||
| All-Inclusive | ||
Gebäck, Snacks und Getränke ganztägig, Mittagessen im eigenen Restaurant, täglich 6 Menüs, auch vegetarisch | Eine Auswahl unserer Frühstücks-Snacks und Nervennahrungs-Highlights senden wir Ihnen mit den Seminarunterlagen via DHL zu. | |
| Barrierefreiheit | ||
Das GFU-Schulungszentrum (Am Grauen Stein 27) ist barrierefrei | - | |
Buchen ohne Risiko
| Rechnungsstellung |
Erst nach dem erfolgreichen Seminar. Keine Vorkasse. |
| Stornierung |
Kostenfrei bis zum Vortag des Seminars |
| Vormerken statt buchen |
Sichern Sie sich unverbindlich Ihren Seminarplatz schon vor der Buchung - auch wenn Sie selbst nicht berechtigt sind zu buchen |
Kostenfreie Services
In Präsenz | Online |
|---|---|
|
|
Buchungsmöglichkeiten
Online oder in Präsenz teilnehmen
Sie können sowohl Online als auch in Präsenz am Seminar teilnehmen. Klicken Sie bei Ihrer Buchung oder Anfrage einfach die entsprechende Option an.
Gesicherte offene Termine
| Termin | Ort | Preis | ||
|---|---|---|---|---|
| 19.10.-21.10.2026 Plätze vorhanden Köln / Online 2.030,00 | Köln / Online | 2.030,00 | Buchen Vormerken | |
| 21.12.-23.12.2026 Plätze vorhanden Köln / Online 2.030,00 | Köln / Online | 2.030,00 | Buchen Vormerken | |
| 2027 | ||||
| 01.03.-03.03.2027 Plätze vorhanden Köln / Online 2.030,00 | Köln / Online | 2.030,00 | Buchen Vormerken | |
| 03.05.-05.05.2027 Plätze vorhanden Köln / Online 2.030,00 | Köln / Online | 2.030,00 | Buchen Vormerken | |
| 05.07.-07.07.2027 Plätze vorhanden Köln / Online 2.030,00 | Köln / Online | 2.030,00 | Buchen Vormerken | |
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
- Lernumgebung in der Cloud
- 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
- Alle folgenden Schulungsformen können auch Online als Virtual Classroom durchgeführt werden.
- Eine Offene Schulung findet zu einem festgelegten Zeitpunkt im voll ausgestatteten Schulungszentrum oder Online/Remote statt. Sie treffen auf Teilnehmende anderer Unternehmen und profitieren vom direkten Wissensaustausch.
- Eine Inhouse-/Firmen-Schulung geht auf die individuellen Bedürfnisse Ihres Unternehmens ein. Sie erhalten eine kostenfreie Beratung von Ihrem Seminarleiter und können Inhalte und Dauer auf Ihren Schulungsbedarf anpassen. Inhouse-Schulungen können Europaweit durchgeführt werden.
- Bei einer Individual-Schulung erhalten Sie eine 1-zu-1 Betreuung und bestimmen Inhalt, Zeit und Lerntempo. Der Dozent passt sich Ihren Wünschen und Bedürfnissen an.
Sie können unsere Schulungen auch als Remote Schulung im Virtual Classroom anfragen.
In drei Schritten zum Online Seminar im Virtual Classroom:
- Seminar auswählen und auf "Buchen" klicken
- Wählen Sie bei "Wie möchten Sie teilnehmen?" einfach "Online" aus.
- Formular ausfüllen und über den Button "Jetzt buchen" absenden.
Unser Kundenservice meldet sich bei Ihnen mit der Buchungsbestätigung.
Unsere Online Schulungen finden im Virtual Classroom statt. Ein Virtual Classroom bündelt mehrere Werkzeuge, wie Audio-Konferenz, Text-Chat, Interaktives Whiteboard, oder Application Sharing.
Vorteile von Virtual Classroom:
- Sie erhalten 1 zu 1 die gleiche Lernumgebung, die Sie auch vor Ort bei uns vorfinden
- Die technische Vorbereitung wird von den GFU-Technikern vorgenommen
- Sie erhalten remote Zugriff auf Ihren persönlichen Schulungs-PC im GFU-Seminarraum
- Die Virtual Classroom Lösung lässt sich auch im Browser betreiben
- Die GFU-Technik leistet wie gewohnt Soforthilfe bei Problemen
- Die Schulungsunterlagen bekommen Sie via DHL zugeschickt
- Sie sparen Reisekosten und Zeit
- 19. Okt. - 21. Okt. ✓ Noch einige Plätze frei ▶ Köln + Online/Remote
- 21. Dez. - 23. Dez. ✓ Noch einige Plätze frei ▶ Köln + Online/Remote
- 01. Mär. - 03. Mär. ✓ Noch einige Plätze frei ▶ Köln + Online/Remote
- 03. Mai - 05. Mai ✓ Noch einige Plätze frei ▶ Köln + Online/Remote
- 05. Jul. - 07. Jul. ✓ Noch einige Plätze frei ▶ Köln + Online/Remote
- Auch als Inhouse-Schulung, bundesweit mit Termin nach Wunsch und individuellen Inhalten
- Buchen ohne Risiko! Kostenfreie Stornierung bis zum Vortag des Seminars
Die Seminare der GFU finden in angenehmer Atmosphäre statt und sind perfekt organisiert. Profitieren Sie von dem Rundum-Service der GFU!
Machen Sie sich keinen Kopf um die Anreise! Unser Shuttle fährt Sie. Oder Sie parken einfach auf einem extra für Sie reservierten Parkplatz.
Hotelzimmer gesucht? Wir organisieren Ihnen eins. Ihr Vorteil: Sie sparen Zeit und Geld!
Stornierung bei offenen Seminaren kostenfrei bis einen Tag vor Schulungsbeginn.
Unsere Techniker sind immer zur Stelle, egal ob online oder vor Ort.