Bitte wählen Sie die Bereiche, die Sie exportieren möchten:
Schulung Responsible AI: Fairness, Bias und Erklärbarkeit
EU AI Act, Fairness-Metriken, SHAP, LIME und Model Cards
Schulungsformen
Offene Schulung
- 2 Tage
- 5 gesicherte Termine
- Köln / Online
- 1.440,00 p. P. zzgl. MwSt.
- Dritter Mitarbeitende kostenfrei
- Learning & Networking in einem. Garantierte Durchführung ab 1 Teilnehmenden.
Inhouse-/Firmenschulung
- 2 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
Individualschulung
- 2 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Beschreibung
Ein Bewerbungs-Screening-Tool filtert Lebensläufe. Niemand im Unternehmen kann erklären, warum Kandidat A eingeladen wird und Kandidat B nicht. Das Modell ist eine Black Box - 95 % Accuracy, 0 % Erklärbarkeit. Der Betriebsrat fragt nach, die Geschäftsleitung zuckt mit den Schultern.
Seit August 2025 ist der EU AI Act in Kraft. KI-Systeme werden in Risikoklassen eingeteilt: Kredit-Scoring, Bewerberauswahl, medizinische Diagnostik und Predictive Policing gelten als High Risk - und unterliegen strengen Anforderungen: Dokumentation, Risikobewertung, menschliche Aufsicht, Transparenz, Fairness und Erklärbarkeit. Unternehmen, die diese Anforderungen nicht erfüllen, riskieren Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes.
Dieses zweitägige Seminar zeigt nicht nur die Theorie (was ist Bias, was ist Fairness), sondern die Praxis : wie man Bias in Daten und Modellen misst, wie man Modellergebnisse erklärt (SHAP, LIME), wie man Fairness-Maßnahmen implementiert und wie man KI-Systeme gemäß EU AI Act dokumentiert.
Entdecken Sie unsere weiteren KI Seminare.
Schulungsziel
Jede teilnehmende Person verlässt das Seminar mit dem Verständnis der Bias-Quellen in KI-Systemen und der Fähigkeit, sie zu identifizieren, der Kompetenz, Fairness-Metriken auszuwählen und zu berechnen (Demographic Parity, Equal Opportunity, Disparate Impact), der Fähigkeit, Modelle mit SHAP und LIME erklärbar zu machen (global und lokal, für verschiedene Zielgruppen), dem Wissen über den EU AI Act (Risikoklassen, Pflichten, Dokumentation, Fristen), einer Model Card als Dokumentationsvorlage, implementierten Bias-MitigationsmaßnaKI-Systeme auf Fairness und Bias prüfen, Modellergebnisse erklärbar machen und die Anforderungen des EU AI Act umsetzen. Am Ende des Seminars haben sie ein Modell hmen (Pre-, In- und Post-Processing mit Fairlearn) und einem Bewertungsrahmen für eigene KI-Systeme (Risikoklasse, Fairness, Erklärbarkeit, Dokumentation).
Details
Inhalt
1. Bias in KI-Systemen: Woher kommt er, wie wirkt er?
- Ziele und Erwartungen der Teilnehmenden
- Klärung individueller Lernziele und Erwartungen für ein praxisnahes und relevantes Seminar
- Bias-Quellen: Historischer Bias (Trainingsdaten spiegeln vergangene Diskriminierung), Repräsentations-Bias (unterrepräsentierte Gruppen in den Daten), Measurement Bias (Proxy-Variablen: Postleitzahl als Proxy für Ethnie, Geschlecht als Proxy für Gehalt), Aggregation Bias (ein Modell für alle Gruppen, obwohl die Gruppen sich unterschiedlich verhalten), Automation Bias (Menschen vertrauen KI-Empfehlungen blind).
- Reale Fälle: Amazon-Bewerbungstool (benachteiligte Frauen), COMPAS-Rezidivismus-Score (benachteiligte Schwarze), Apple-Card-Kreditlimit (benachteiligte Frauen), Gesichtserkennung (höhere Fehlerrate bei dunkelhäutigen Frauen). Was schiefging und warum.
- Geschützte Merkmale: Geschlecht, Ethnie, Alter, Religion, Behinderung, sexuelle Orientierung. Direkt (Feature im Modell) vs. indirekt (Proxy-Features, die geschützte Merkmale vorhersagen: Vorname -> Geschlecht, Postleitzahl -> Ethnie).
- Interaktiv: Datensatz untersuchen (Kredit-Scoring oder Bewerbungs-Screening): Verteilung der geschützten Merkmale in den Trainingsdaten analysieren. Gibt es Unterrepräsentation? Korrelieren Proxy-Features mit geschützten Merkmalen?
- Das Fairness-Dilemma: Es gibt keine universelle Definition von Fairness. Verschiedene Metriken widersprechen sich - man kann nicht alle gleichzeitig erfüllen (Impossibility Theorem).
- Fairness-Metriken: Demographic Parity (gleiche Akzeptanzrate für alle Gruppen - unabhängig von der Qualifikation), Equal Opportunity (gleiche True-Positive-Rate: qualifizierte Bewerber werden unabhängig von der Gruppe gleich oft akzeptiert), Equalized Odds (gleiche TPR und FPR), Predictive Parity (gleiche Precision), Individual Fairness (ähnliche Personen bekommen ähnliche Ergebnisse).
- Welche Metrik wann? Demographic Parity für quotenbasierte Szenarien (gleicher Zugang), Equal Opportunity für leistungsbasierte Szenarien (gleiche Chancen für Qualifizierte), Equalized Odds für strafrechtliche Szenarien (gleiche Fehlerquoten). Die Metrik-Wahl ist eine ethische Entscheidung , keine technische.
- Disparate Impact: Rechtlicher Standard (80 %-Regel: die benachteiligte Gruppe muss mindestens 80 % der Akzeptanzrate der bevorzugten Gruppe erreichen). Berechnung und Interpretation.
- Praxis-Übung: Kredit-Scoring-Modell auf Fairness prüfen: Demographic Parity, Equal Opportunity, Disparate Impact für Geschlecht und Altersgruppe berechnen. Ergebnis: das Modell ist nach einer Metrik fair, nach einer anderen nicht - die Diskussion beginnt.
- Pre-Processing: Bias in den Daten korrigieren bevor das Modell trainiert wird. Resampling (unterrepräsentierte Gruppen übergewichten), Reweighting (Datenpunkte gewichten), Disparate Impact Remover (Feature-Verteilungen angleichen).
- In-Processing: Fairness als Constraint während des Trainings. Adversarial Debiasing (ein zweites Modell versucht, das geschützte Merkmal aus den Vorhersagen zu inferieren - das Hauptmodell wird bestraft, wenn das gelingt). Fairness-Constraints in der Zielfunktion (Exponentiated Gradient).
- Post-Processing: Vorhersagen nach dem Training anpassen. Calibrated Equalized Odds (Schwellenwerte pro Gruppe so anpassen, dass gleiche Fehlerquoten erreicht werden). Reject Option Classification (unsichere Vorhersagen zugunsten der benachteiligten Gruppe anpassen).
- Trade-offs: Fairness-Maßnahmen reduzieren meist die Gesamtperformance (Accuracy sinkt um 1-3 %). Die Entscheidung, wie viel Performance für wie viel Fairness geopfert wird, ist eine Geschäftsentscheidung - keine technische.
- Tools: Fairlearn (Microsoft, Open Source), AI Fairness 360 (IBM, Open Source), Aequitas (University of Chicago).
- Praxis-Übung: Bias im Kredit-Modell mitigieren: (1) Pre-Processing mit Reweighting -> Modell neu trainieren -> Fairness-Metriken erneut berechnen. (2) Post-Processing mit Schwellenwert-Anpassung -> Fairness verbessert, Accuracy sinkt. Trade-off dokumentieren.
4. Erklärbarkeit (XAI): Warum hat das Modell so entschieden?
- Das Black-Box-Problem: Komplexe Modelle (Random Forest, Gradient Boosting, neuronale Netze) liefern gute Vorhersagen, aber keine Erklärung. Für High-Risk-Entscheidungen (Kredit, Bewerbung, Medizin, Versicherung) ist das inakzeptabel - regulatorisch und ethisch.
- Globale Erklärbarkeit: Das Modell als Ganzes verstehen. Feature Importance (welche Features beeinflussen die Vorhersage am stärksten?), Partial Dependence Plots (wie ändert sich die Vorhersage, wenn ein Feature variiert wird?), Feature Interaction (welche Features wirken zusammen?).
- Lokale Erklärbarkeit: Eine einzelne Vorhersage erklären. SHAP (Shapley Additive Explanations: jeder Feature-Beitrag zur einzelnen Vorhersage, basierend auf spieltheoretischer Fundierung), LIME (Local Interpretable Model-agnostic Explanations: ein einfaches, interpretierbares Modell wird lokal um die Vorhersage herum trainiert). SHAP vs. LIME: SHAP ist theoretisch fundierter, LIME ist intuitiver und schneller.
- Erklärbarkeit für verschiedene Zielgruppen: Data Scientist (SHAP-Waterfall-Plot, technisch), Fachabteilung (natürlichsprachige Erklärung: „Der Kredit wurde abgelehnt, weil das Einkommen unter 30.000 € liegt und 2 Zahlungsausfälle in den letzten 12 Monaten vorlagen"), Regulierer/Auditor (dokumentierte Feature-Importance + Bias-Prüfung), betroffene Person (Art. 22 DSGVO: Recht auf Erklärung bei automatisierten Einzelentscheidungen).
- Praxis-Übung: Kredit-Modell erklären: (1) SHAP: globale Feature Importance (Beeswarm Plot), lokale Erklärung für 3 einzelne Kreditentscheidungen (Waterfall Plot). (2) LIME: lokale Erklärung für dieselben 3 Fälle. (3) Vergleich: stimmen SHAP und LIME überein? Wo widersprechen sie sich?
- EU AI Act Überblick: In Kraft seit August 2025, gestaffelte Anwendung (Verbotene Praktiken: sofort, High-Risk: ab August 2026, Transparenzpflichten: ab August 2026, General Purpose AI: ab August 2025). Gilt für alle Anbieter und Deployer von KI-Systemen in der EU.
- Risikoklassen: Unakzeptables Risiko (verboten: Social Scoring, Emotionserkennung am Arbeitsplatz, biometrische Echtzeit-Identifizierung in öffentlichen Räumen), Hohes Risiko (strenge Pflichten: Kredit-Scoring, Bewerbungsauswahl, medizinische Geräte, Strafverfolgung, kritische Infrastruktur), Begrenztes Risiko (Transparenzpflichten: Chatbots müssen als KI erkennbar sein, Deepfakes müssen gekennzeichnet werden), Minimales Risiko (keine Pflichten: Spamfilter, Empfehlungssysteme, Spiele-KI).
- Pflichten für High-Risk-Systeme: Risikomanagementsystem (kontinuierlich, nicht einmalig), Datenqualität und Data Governance (Trainingsdaten dokumentieren und prüfen), technische Dokumentation (Zweck, Funktionsweise, Leistungskennzahlen, Grenzen), Transparenz gegenüber Nutzern (erklären, dass KI im Einsatz ist, und wie), menschliche Aufsicht (Human-in-the-Loop oder Human-on-the-Loop), Genauigkeit, Robustheit und Cybersicherheit.
- General Purpose AI Models (GPAIs): LLMs wie GPT-4, Claude, Llama - besondere Pflichten für Anbieter von Foundation Models (technische Dokumentation, Copyright-Compliance, Transparenz über Trainingsdaten). Systemische Risiken bei Modellen mit hoher Wirkung (zusätzliche Pflichten: Red Teaming, Incident Reporting).
- Praxis-Übung: 5 KI-Systeme in Risikoklassen einordnen: (1) Chatbot für FAQ, (2) Kredit-Scoring-Modell, (3) Bewerber-Ranking, (4) Produktempfehlung im Onlineshop, (5) medizinische Bildanalyse. Für die High-Risk-Systeme: welche Pflichten gelten, welche Dokumentation ist nötig?
Model Cards und AI-System-Dokumentation (30 Min):
- Model Cards: Standardisiertes Dokumentationsformat (Google, 2019). Zweck des Modells, Trainingsdaten (Quelle, Größe, Zeitraum, bekannte Bias), Evaluationsmetriken (Gesamtperformance + Performance pro Subgruppe/geschütztem Merkmal), Limitierungen und bekannte Schwächen, empfohlene Einsatzszenarien (und Szenarien, für die das Modell nicht geeignet ist).
- Datasheets for Datasets: Herkunft der Daten, Erhebungsmethodik, Repräsentativität, bekannte Bias, Nutzungsbeschränkungen. Für Trainingsdaten ebenso wichtig wie die Modell-Dokumentation.
- AI System Documentation für EU AI Act: Technische Dokumentation (Architektur, Trainingsprozess, Validierung), Risikoanalyse (identifizierte Risiken und Mitigationsmaßnahmen), Performance-Monitoring-Plan (wie wird die Performance in Produktion überwacht?), Human-Oversight-Konzept (wer prüft, wer entscheidet, wer greift ein?).
- Praxis-Übung: Model Card für das Kredit-Scoring-Modell erstellen: Zweck, Trainingsdaten, Performance (gesamt + pro Geschlecht + pro Altersgruppe), Fairness-Metriken (Disparate Impact, Equal Opportunity), Limitierungen, Empfehlungen. Ergebnis: ein dokumentiertes Modell, das einem Auditor vorgelegt werden kann.
- Phase 1 - Eigenes KI-System bewerten (25 Min): Eigenes KI-Projekt (oder vorgegebenes Szenario) end-to-end bewerten: EU-AI-Act-Risikoklasse bestimmen, Bias-Quellen identifizieren (welche Daten, welche Proxy-Features?), Fairness-Metriken auswählen und begründen (welche Metrik passt zum Kontext?), Erklärbarkeits-Strategie definieren (SHAP/LIME, für welche Zielgruppe?), Mitigationsmaßnahme wählen (Pre/In/Post-Processing), Dokumentationspflichten ableiten (Model Card, Datasheet, AI System Doc).
- Phase 2 - Peer-Review (15 Min): Bewertung vorstellen. Stresstest: „Euer Modell lehnt 40 % mehr Frauen ab als Männer - wie erklärt ihr das dem Vorstand?" „Der EU-AI-Act-Auditor fragt nach der Datenherkunft der Trainingsdaten - könnt ihr das belegen?" „SHAP zeigt, dass die Postleitzahl der wichtigste Feature ist - ist das ein Problem?" „Ihr mitigiert Bias durch Post-Processing - die Accuracy sinkt um 2 % - akzeptiert die Geschäftsleitung das?"
Zielgruppe & Vorkenntnisse
- Data Scientists und ML Engineers: Die Modelle entwickeln und sicherstellen müssen, dass diese fair, erklärbar und dokumentiert sind - nicht nur performant.
- KI-Verantwortliche und AI Governance Teams: Die Richtlinien für den verantwortungsvollen KI-Einsatz im Unternehmen etablieren.
- Compliance- und Risikomanager: Die den EU AI Act umsetzen und KI-Systeme in Risikoklassen einordnen müssen.
- Führungskräfte und Produktverantwortliche: Die verstehen müssen, welche regulatorischen und ethischen Anforderungen an KI-Systeme gestellt werden - und was das für ihre Produkte bedeutet.
Ihre Schulung
In Präsenz | Online |
|---|---|
| Lernmethode | |
Ausgewogene Mischung aus Theorie und praktischen Übungen auf persönlichem Schulungs-PC. | Wie auch bei unseren Präsenz-Seminaren: Ausgewogene Mischung aus Theorie und praktischen Übungen. Trainer durchgehend präsent. |
| Unterlagen | |
Seminarunterlagen oder Fachbuch inklusive. Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. | Seminarunterlagen oder Fachbuch inklusive (via DHL). Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. |
| Arbeitsmaterialien | |
DIN A4 Block, Notizblock, Kugelschreiber, USB-Stick, Textmarker, Post-its | |
| Teilnahmezertifikat | |
Nach Abschluss des Seminars erhalten Sie das Teilnahmezertifikat inkl. Inhaltsverzeichnis per E-Mail als PDF. | |
Organisation
In Präsenz | Online | |
|---|---|---|
| Teilnehmendenzahl | ||
min. 1, max. 8 Personen | ||
| Garantierte Durchführung | ||
Ab 1 Teilnehmenden* | ||
| Schulungszeiten | ||
| ||
| Ort der Schulung | ||
 GFU SchulungszentrumAm Grauen Stein 27 51105 Köln-Deutz oder online im Virtual Classroom oder europaweit bei Ihnen als Inhouse-Schulung Um ein optimales Raumklima zu gewährleisten, haben wir das Schulungszentrum mit 17 hochmodernen Trotec TAC V+ Luftreinigern ausgestattet. Diese innovative Filtertechnologie (H14 zertifiziert nach DIN EN1822) sorgt dafür, dass die Raumluft mehrfach pro Stunde umgewälzt wird und Schadstoffe zu 99.995% im HEPA-Filter abgeschieden und infektiöse Aerosole abgetötet werden. Zusätzlich sind alle Räume mit CO2-Ampeln ausgestattet, um jederzeit eine hervorragende Luftqualität sicherzustellen. | ||
| Räumlichkeiten | ||
Helle und modern ausgestattete Räume mit perfekter Infrastruktur | Bequem aus dem Homeoffice von überall | |
| Preisvorteil | ||
Dritter Mitarbeitende nimmt kostenfrei teil. Eventuell anfallende Prüfungskosten für den dritten Teilnehmenden werden zusätzlich berechnet. Hinweis: Um den Erfolg der Schulung zu gewährleisten, sollte auch der dritte Teilnehmende die erwarteten Vorkenntnisse mitbringen. | ||
| All-Inclusive | ||
Gebäck, Snacks und Getränke ganztägig, Mittagessen im eigenen Restaurant, täglich 6 Menüs, auch vegetarisch | Eine Auswahl unserer Frühstücks-Snacks und Nervennahrungs-Highlights senden wir Ihnen mit den Seminarunterlagen via DHL zu. | |
| Barrierefreiheit | ||
Das GFU-Schulungszentrum (Am Grauen Stein 27) ist barrierefrei | - | |
Buchen ohne Risiko
| Rechnungsstellung |
Erst nach dem erfolgreichen Seminar. Keine Vorkasse. |
| Stornierung |
Kostenfrei bis zum Vortag des Seminars |
| Vormerken statt buchen |
Sichern Sie sich unverbindlich Ihren Seminarplatz schon vor der Buchung - auch wenn Sie selbst nicht berechtigt sind zu buchen |
Kostenfreie Services
In Präsenz | Online |
|---|---|
|
|
Buchungsmöglichkeiten
Online oder in Präsenz teilnehmen
Sie können sowohl Online als auch in Präsenz am Seminar teilnehmen. Klicken Sie bei Ihrer Buchung oder Anfrage einfach die entsprechende Option an.
Gesicherte offene Termine
| Termin | Ort | Preis | ||
|---|---|---|---|---|
| 24.08.-25.08.2026 Plätze vorhanden Köln / Online 1.440,00 | Köln / Online | 1.440,00 | Buchen Vormerken | |
| 26.10.-27.10.2026 Plätze vorhanden Köln / Online 1.440,00 | Köln / Online | 1.440,00 | Buchen Vormerken | |
| 2027 | ||||
| 11.01.-12.01.2027 Plätze vorhanden Köln / Online 1.440,00 | Köln / Online | 1.440,00 | Buchen Vormerken | |
| 01.04.-02.04.2027 Plätze vorhanden Köln / Online 1.440,00 | Köln / Online | 1.440,00 | Buchen Vormerken | |
| 01.06.-02.06.2027 Plätze vorhanden Köln / Online 1.440,00 | Köln / Online | 1.440,00 | Buchen Vormerken | |
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
- Lernumgebung in der Cloud
- 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Unterstützung nach der Schulung durch
individuelle Nachbetreuung
- Alle folgenden Schulungsformen können auch Online als Virtual Classroom durchgeführt werden.
- Eine Offene Schulung findet zu einem festgelegten Zeitpunkt im voll ausgestatteten Schulungszentrum oder Online/Remote statt. Sie treffen auf Teilnehmende anderer Unternehmen und profitieren vom direkten Wissensaustausch.
- Eine Inhouse-/Firmen-Schulung geht auf die individuellen Bedürfnisse Ihres Unternehmens ein. Sie erhalten eine kostenfreie Beratung von Ihrem Seminarleiter und können Inhalte und Dauer auf Ihren Schulungsbedarf anpassen. Inhouse-Schulungen können Europaweit durchgeführt werden.
- Bei einer Individual-Schulung erhalten Sie eine 1-zu-1 Betreuung und bestimmen Inhalt, Zeit und Lerntempo. Der Dozent passt sich Ihren Wünschen und Bedürfnissen an.
Sie können unsere Schulungen auch als Remote Schulung im Virtual Classroom anfragen.
In drei Schritten zum Online Seminar im Virtual Classroom:
- Seminar auswählen und auf "Buchen" klicken
- Wählen Sie bei "Wie möchten Sie teilnehmen?" einfach "Online" aus.
- Formular ausfüllen und über den Button "Jetzt buchen" absenden.
Unser Kundenservice meldet sich bei Ihnen mit der Buchungsbestätigung.
Unsere Online Schulungen finden im Virtual Classroom statt. Ein Virtual Classroom bündelt mehrere Werkzeuge, wie Audio-Konferenz, Text-Chat, Interaktives Whiteboard, oder Application Sharing.
Vorteile von Virtual Classroom:
- Sie erhalten 1 zu 1 die gleiche Lernumgebung, die Sie auch vor Ort bei uns vorfinden
- Die technische Vorbereitung wird von den GFU-Technikern vorgenommen
- Sie erhalten remote Zugriff auf Ihren persönlichen Schulungs-PC im GFU-Seminarraum
- Die Virtual Classroom Lösung lässt sich auch im Browser betreiben
- Die GFU-Technik leistet wie gewohnt Soforthilfe bei Problemen
- Die Schulungsunterlagen bekommen Sie via DHL zugeschickt
- Sie sparen Reisekosten und Zeit
- 24. Aug. - 25. Aug. ✓ Noch einige Plätze frei ▶ Köln + Online/Remote
- 26. Okt. - 27. Okt. ✓ Noch einige Plätze frei ▶ Köln + Online/Remote
- 11. Jan. - 12. Jan. ✓ Noch einige Plätze frei ▶ Köln + Online/Remote
- 01. Apr. - 02. Apr. ✓ Noch einige Plätze frei ▶ Köln + Online/Remote
- 01. Jun. - 02. Jun. ✓ Noch einige Plätze frei ▶ Köln + Online/Remote
- Auch als Inhouse-Schulung, bundesweit mit Termin nach Wunsch und individuellen Inhalten
- Buchen ohne Risiko! Kostenfreie Stornierung bis zum Vortag des Seminars
Die Seminare der GFU finden in angenehmer Atmosphäre statt und sind perfekt organisiert. Profitieren Sie von dem Rundum-Service der GFU!
Machen Sie sich keinen Kopf um die Anreise! Unser Shuttle fährt Sie. Oder Sie parken einfach auf einem extra für Sie reservierten Parkplatz.
Hotelzimmer gesucht? Wir organisieren Ihnen eins. Ihr Vorteil: Sie sparen Zeit und Geld!
Stornierung bei offenen Seminaren kostenfrei bis einen Tag vor Schulungsbeginn.
Unsere Techniker sind immer zur Stelle, egal ob online oder vor Ort.