Bitte wählen Sie die Bereiche, die Sie exportieren möchten:
Schulung AI Red Teaming und AI Risk Strategy: KI-Systeme professionell prüfen und absichern
AI Red Teaming Schulung in Präsenz, online und als Inhouse-Seminar europaweit
Schulungsformen
Inhouse-/Firmenschulung
- 2 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
Individualschulung
- 2 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Beschreibung
Klassische Pentest-Verträge greifen hier nicht: KI-Systeme reagieren probabilistisch, ändern sich täglich und verarbeiten Instruktion und Daten im selben Kanal. Dieses Seminar schließt genau diese Lücke - von der Auftragsvergabe bis zur eigenen Prüfkompetenz.
Auf der Suche nach einer anderen KI Schulung?
Schulungsziel
Jede teilnehmende Person verlässt das Seminar mit einem belastbaren Verständnis der OWASP Top 10 für LLM-Anwendungen 2025 und der OWASP Top 10 für Agentic Applications 2026, ASI01 bis ASI10, einem einsatzfähigen AI-Red-Team-Playbook für die eigene Organisation, einem Scoping- und Vergabe-Raster zur Beauftragung und Bewertung interner wie externer Prüfungen sowie einer begründeten Toolchain-Entscheidung zu PyRIT, Garak, DeepTeam und Promptfoo samt deren Grenzen.
Details
Inhalt
- Ziele und Erwartungen der Teilnehmenden
- Klärung individueller Lernziele und Erwartungen für ein praxisnahes und relevantes Seminar
- Tag 1 - Orientierung, Bedrohungsmodell und Auftragsvergabe
- 1. Warum KI-Systeme anders brechen
- Probabilistisches Verhalten, fehlende Trennung von Instruktion und Daten, tägliche Modell- und Prompt-Änderungen - und warum Web- und Netzwerk-Pentests diese Angriffsfläche strukturell nicht erfassen.
- 2. Frameworks als gemeinsame Sprache
- OWASP Top 10 für LLM-Anwendungen 2025, OWASP Top 10 für Agentic Applications 2026, MITRE ATLAS, NIST AI Risk Management Framework und das AI Vulnerability Scoring System AIVSS - wofür jedes steht und wann Sie welches heranziehen.
- 3. Angriffsklassen verständlich gemacht
- Live-Demonstration
- Direkte und indirekte Prompt Injection über Dokumente und E-Mails, Jailbreak-Ketten, RAG-Vergiftung, Sensitive Information Disclosure und Excessive Agency - am laufenden System gezeigt, nicht nur auf Folien.
- 4. Scoping und Vergabe als Führungsaufgabe
- Was ein belastbares AI-Red-Team-Engagement ausmacht, interne versus externe Prüfung, und ein konkretes Bewertungsraster für Angebote externer Dienstleister.
- Praxis-Übung, 45 Minuten
- Prüfumfang für ein eigenes KI-System definieren - Angriffsflächen priorisieren, Erfolgskriterien festlegen, Freigaben klären.
- Stresstest: „Ein Dienstleister bietet einen KI-Pentest für 3 Tagewerke an - welche fünf Fragen entlarven, ob er wirklich adversarial testet?“
- 1. Warum KI-Systeme anders brechen
- Tag 2 - Methodik, Toolchain und Governance
- 5. Red-Team-Methodik und Toolchain
- Aufbau, Stärken und Grenzen von PyRIT, Garak, DeepTeam und Promptfoo; wann automatisierte Prüfung ausreicht und wann sie in die Irre führt.
- 6. Kampagnen strukturiert fahren
- Multi-Turn- und Crescendo-Angriffe, multimodale Injektion, System-Prompt- und Modell-Leakage, Membership Inference - als Prüfmethodik gegen eigene Systeme, mit klaren rechtlichen und organisatorischen Leitplanken.
- 7. Agenten prüfen
- Tool-Poisoning, Goal-Hijack und Identity- und Privilege-Abuse ASI03 autonomer Agenten - die Brücke zu Agentic AI und Non-Human Identity.
- 8. Vom Befund zur Governance
- Aufbau eines wiederverwendbaren Red-Team-Playbooks, Test-Cadence, Integration in CI/CD, Reporting an Vorstand und Aufsicht sowie das Mapping der Befunde auf KI-VO-Anforderungen an Robustheit und Cybersicherheit und auf das NIST AI RMF.
- Praxis-Übung, 60 Minuten
- Eigenes AI-Red-Team-Playbook und 90-Tage-Roadmap entwerfen.
- Stresstest: „Der Vorstand fragt nach dem KI-Sicherheitsstand vor dem Go-Live eines neuen Agenten - in 10 Minuten belastbar beantwortbar?“
- 5. Red-Team-Methodik und Toolchain
Zielgruppe & Vorkenntnisse
Das Seminar richtet sich an CISO und Head of Security Testing, die AI-Prüfungen verantworten, beauftragen und gegenüber Aufsicht und Vorstand vertreten müssen.
Angesprochen sind Penetrationstester und Security Engineers, die ihr Prüfrepertoire von klassischen Systemen auf KI ausweiten.
Das Seminar eignet sich außerdem für AI/ML-Engineers und MLOps-Verantwortliche, die robuste, angriffsresistente KI-Systeme bauen und betreiben.
Ebenfalls angesprochen sind Risk-, Audit- und Compliance-Verantwortliche sowie AI Officer, die Prüfnachweise für KI-VO und NIS-2 benötigen.
Teilnahmevoraussetzungen
Sie benötigen ein Grundverständnis klassischer IT-Sicherheitsprüfungen wie Penetrationstest und Audit sowie von LLMs auf Anwenderebene.
Für die praktischen Teile an Tag 2 sind Python-Grundkenntnisse hilfreich, aber nicht zwingend.
Vorkenntnisse in KI-Sicherheit werden nicht vorausgesetzt.
Ihre Schulung
In Präsenz | Online |
|---|---|
| Lernmethode | |
Ausgewogene Mischung aus Theorie und praktischen Übungen auf persönlichem Schulungs-PC. | Wie auch bei unseren Präsenz-Seminaren: Ausgewogene Mischung aus Theorie und praktischen Übungen. Trainer durchgehend präsent. |
| Unterlagen | |
Seminarunterlagen oder Fachbuch inklusive. Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. | Seminarunterlagen oder Fachbuch inklusive (via DHL). Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. |
| Arbeitsmaterialien | |
Din A4 Block, Notizblock, Kugelschreiber, USB-Stick, Textmarker, Post-its | |
| Teilnahmezertifikat | |
Nach Abschluss des Seminars erhalten Sie das Teilnahmezertifikat inkl. Inhaltsverzeichnis per E-Mail als PDF. | |
Organisation
In Präsenz | Online | |
|---|---|---|
| Teilnehmendenzahl | ||
min. 1, max. 8 Personen | ||
| Garantierte Durchführung * | ||
Ab 1 Teilnehmenden | ||
| Schulungszeiten | ||
| ||
| Ort der Schulung | ||
 GFU SchulungszentrumAm Grauen Stein 27 51105 Köln-Deutz oder online im Virtual Classroom oder europaweit bei Ihnen als Inhouse-Schulung Um ein optimales Raumklima zu gewährleisten, haben wir das Schulungszentrum mit 17 hochmodernen Trotec TAC V+ Luftreinigern ausgestattet. Diese innovative Filtertechnologie (H14 zertifiziert nach DIN EN1822) sorgt dafür, dass die Raumluft mehrfach pro Stunde umgewälzt wird und Schadstoffe zu 99.995% im HEPA-Filter abgeschieden und infektiöse Aerosole abgetötet werden. Zusätzlich sind alle Räume mit CO2-Ampeln ausgestattet, um jederzeit eine hervorragende Luftqualität sicherzustellen. | ||
| Räumlichkeiten | ||
Helle und modern ausgestattete Räume mit perfekter Infrastruktur | Bequem aus dem Homeoffice von überall | |
| All-Inclusive | ||
Frühstück, Snacks und Getränke ganztägig, Mittagessen im eigenen Restaurant, täglich 6 Menüs, auch vegetarisch | Eine Auswahl unserer Frühstücks-Snacks und Nervennahrungs-Highlights senden wir Ihnen mit den Seminarunterlagen via DHL zu. | |
| Barrierefreiheit | ||
Das GFU-Schulungszentrum (Am Grauen Stein 27) ist barrierefrei | - | |
Kostenfreie Services
In Präsenz | Online |
|---|---|
|
|
Buchungsmöglichkeiten
Online oder in Präsenz teilnehmen
Sie können sowohl Online als auch in Präsenz am Seminar teilnehmen. Klicken Sie bei Ihrer Buchung oder Anfrage einfach die entsprechende Option an.
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
- Lernumgebung in der Cloud
- 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Was bedeutet Offene Schulung und Inhouse Schulung?
Bei einer offenen Schulung stehen Ort und Termin vorab fest. Jeder Interessent kann eine offene Schulung buchen, daher treffen Teilnehmer aus verschiedenen Unternehmen aufeinander.
Inhouse Schulungen können auf Ihren individuellen Schulungsbedarf zugeschnitten werden. Sie bestimmen den Teilnehmerkreis, Termin und Schulungsort.
Ist eine Inhouse Schulung die richtige Wahl?
Bei einer Inhouse Schulung gehen wir auf die individuellen Bedürfnisse Ihres Unternehmens ein und decken den Schulungsbedarf direkt bei Ihnen im Unternehmen ab.
Das spart Zeit und Geld und sorgt für einen schnellen Wissenstransfer Ihrer Mitarbeiter.
Wer kümmert sich um die Technik bei Inhouse Schulungen?
Eine komplette Lernumgebung in der Cloud mit Remote Zugriff ist für uns selbstverständlich. Sie müssen sich um nichts kümmern. Lediglich ein funktionierender PC oder Notebook mit Internetanschluss sollte für jeden Teilnehmer am Schulungstag bereit stehen.
Vorteile einer Inhouse Schulung
- Kompetente Seminarberatung
- Dozenten aus der Praxis
- Auf Ihre Bedürfnisse zugeschnittener individueller Lernstoff
- Sie können den Termin flexibel gestalten, so wie es für Sie am besten passt
- Unsere Inhouse Schulungen können Europaweit durchgeführt werden
- Der Fokus liegt auf Ihrem Schulungsbedarf, somit schonen Sie Ihr Budget
- Wissenslücken Ihrer Mitarbeitet werden schnell geschlossen