Bitte wählen Sie die Bereiche, die Sie exportieren möchten:
Schulung Guardrails für LLM-Anwendungen: Safety, Content Filtering und Compliance
Trusted AI: Sicherheit und Compliance für generative Sprachmodelle
Schulungsformen
Inhouse-/Firmenschulung
- 2 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
Individualschulung
- 2 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Beschreibung
Weitere KI Trainings für Ihre gezielte Weiterbildung...
Schulungsziel
Die Teilnehmenden erlernen den Aufbau robuster Schutzmechanismen für LLM-basierte Applikationen. Ziel ist es, Prompt Injections abzuwehren, personenbezogene Daten (PII) automatisiert zu filtern, Halluzinationen durch Factual Grounding zu minimieren und strukturierte, valide JSON-Antworten für die Software-Integration zu erzwingen.
Details
Inhalt
- Ziele und Erwartungen der Teilnehmenden
- Klärung individueller Lernziele und Erwartungen für ein praxisnahes und relevantes Seminar
- 1. Die Anatomie der LLM-Risiken
- Vulnerabilities: Prompt Injections (Direct/Indirect), Jailbreaks und Adversarial Attacks.
- Datenrisiken: PII Leakage und unbeabsichtigtes Training auf Firmendaten.
- Qualitätsrisiken: Halluzinationen, Bias und toxische Ausgaben.
- 2. Input Guardrails: Den Prompt absichern
- Injection Detection: Einsatz von Rebuff und LLM Guard zur Erkennung von Angriffsversuchen.
- Topic Restriction: Sicherstellen, dass die KI nur über erlaubte Fachthemen spricht.
- Jailbreak Prevention: Strategien gegen „Do Anything Now“ (DAN) Prompts.
- 3. PII Detection & Masking
- Microsoft Presidio: Automatisierte Erkennung von Namen, Adressen und IDs im Input.
- spaCy NER: Nutzung von Named Entity Recognition zur Identifikation sensibler Entitäten.
- De-Identifizierung: Maskieren, Anonymisieren oder Ersetzen von Daten vor dem LLM-Aufruf.
- 4. Output Guardrails: Qualität und Sicherheit
- Toxicity Filter: Integration der OpenAI Moderation API oder Perspective API.
- Brand Voice Enforcement: Automatisierte Prüfung auf Tonalität und verbotene Begriffe.
- PII Leakage Prevention: Letzte Instanz: Prüfung des Outputs auf Personendaten vor der Anzeige.
- 5. Halluzinations-Checks & Factual Grounding
- Knowledge Base Verification: Abgleich der KI-Antwort gegen vertrauenswürdige Quellen (RAG).
- NLI (Natural Language Inference): Mathematische Prüfung, ob die Antwort aus dem Kontext folgt.
- Quellen-Zitation: Erzwingen von Belegen zur Erhöhung der Transparenz.
- 6. NVIDIA NeMo Guardrails
- Colang: Deklarative Programmierung von Dialogflüssen und Sicherheitsregeln.
- Self-Correction: Wie die KI erkennt, dass sie eine Regel verletzt hat und sich korrigiert.
- Integration: Einbindung in bestehende LangChain- oder LlamaIndex-Pipelines.
- 7. Guardrails AI Framework
- RAIL-Specs: Definition von Validierungsregeln in XML- oder YAML-Dateien.
- Input/Output-Validierung: Laufzeit-Prüfung von Daten gegen vordefinierte Schemata.
- Custom Validators: Erstellung eigener Prüflogiken für spezifische Business-Regeln.
- 8. Structured Output & Schema Enforcement
- Pydantic: Definition von Datenmodellen für garantierte JSON-Strukturen.
- OpenAI response_format: Nutzung nativer Provider-Features für validen Output.
- Tool Use (Function Calling): Strukturierte Datenübergabe an nachgelagerte APIs.
- 9. Cloud-Native Safety Tools
- Azure AI Content Safety: Enterprise-Filter für Text- und Bildinhalte.
- AWS Bedrock Guardrails: Zentrale Konfiguration von Sicherheitsfiltern in der Cloud.
- Vorteile: Geringe Latenz und einfache Skalierbarkeit.
- 10. Compliance: DSGVO und LLMs
- Auftragsverarbeitung: Rechtliche Aspekte bei der Nutzung von US-Cloud-Providern.
- Recht auf Vergessenwerden: Die Problematik von Daten im Modell-Gewicht oder Cache.
- Privacy by Design: Umsetzung technischer Maßnahmen zur Datensparsamkeit.
- 11. Der EU AI Act für generative KI
- Risikoklassen: Einstufung der eigenen Anwendung (Low Risk vs. High Risk).
- Transparenzpflichten: Kennzeichnung von KI-Inhalten und Dokumentationspflichten.
- Governance: Aufbau eines internen KI-Risikomanagements.
- 12. Praxis-Workshop: „The Secure AI Gateway“
- Input-Task: Implementierung eines Prompt-Injection-Filters mit Rebuff.
- Data-Task: Maskierung von Kundendaten in einem Support-Chat via Presidio.
- Schema-Task: Erzwingen einer JSON-Antwort für ein Lead-Management-System via Pydantic.
- Final Roadmap: Erstellung einer Safety-Checkliste für den Produktions-Rollout.
Zielgruppe & Vorkenntnisse
- KI-Entwickler & Software-Architekten: Zur Implementierung technischer Schutzschichten.
- Data Privacy Officers (DPO): Zum Verständnis der PII-Vermeidung in LLMs.
- Compliance-Manager: Zur Umsetzung der Anforderungen des EU AI Acts.
- Product Owner: Zur Sicherstellung der Marken-Konsistenz und Sicherheit.
Ihre Schulung
In Präsenz | Online |
|---|---|
| Lernmethode | |
Ausgewogene Mischung aus Theorie und Praxis | Wie auch bei unseren Präsenz-Seminaren: Ausgewogene Mischung aus Theorie und praktischen Übungen. Trainer durchgehend präsent. |
| Unterlagen | |
Seminarunterlagen oder Fachbuch inklusive. Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. | Seminarunterlagen oder Fachbuch inklusive (via DHL). Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. |
| Arbeitsplatz | |
|
|
| Lernumgebung | |
Neu aufgesetzte Remote-Systeme für jeden Kurs in Abstimmung mit dem Seminarleiter, sodass Sie über ein perfektes Setup für die Durchführung aller praktischen Übungen verfügen. | |
| Arbeitsmaterialien | |
Din A4 Block, Notizblock, Kugelschreiber, USB-Stick, Textmarker, Post-its | |
| Teilnahmezertifikat | |
Nach Abschluss des Seminars erhalten Sie das Teilnahmezertifikat inkl. Inhaltsverzeichnis per E-Mail als PDF. | |
Organisation
In Präsenz | Online | |
|---|---|---|
| Teilnehmendenzahl | ||
min. 1, max. 8 Personen | ||
| Garantierte Durchführung * | ||
Ab 1 Teilnehmenden | ||
| Schulungszeiten | ||
| ||
| Ort der Schulung | ||
 GFU SchulungszentrumAm Grauen Stein 27 51105 Köln-Deutz oder online im Virtual Classroom oder europaweit bei Ihnen als Inhouse-Schulung Um ein optimales Raumklima zu gewährleisten, haben wir das Schulungszentrum mit 17 hochmodernen Trotec TAC V+ Luftreinigern ausgestattet. Diese innovative Filtertechnologie (H14 zertifiziert nach DIN EN1822) sorgt dafür, dass die Raumluft mehrfach pro Stunde umgewälzt wird und Schadstoffe zu 99.995% im HEPA-Filter abgeschieden und infektiöse Aerosole abgetötet werden. Zusätzlich sind alle Räume mit CO2-Ampeln ausgestattet, um jederzeit eine hervorragende Luftqualität sicherzustellen. | ||
| Räumlichkeiten | ||
Helle und modern ausgestattete Räume mit perfekter Infrastruktur | Bequem aus dem Homeoffice von überall | |
| All-Inclusive | ||
Frühstück, Snacks und Getränke ganztägig, Mittagessen im eigenen Restaurant, täglich 6 Menüs, auch vegetarisch | Eine Auswahl unserer Frühstücks-Snacks und Nervennahrungs-Highlights senden wir Ihnen mit den Seminarunterlagen via DHL zu. | |
| Barrierefreiheit | ||
Das GFU-Schulungszentrum (Am Grauen Stein 27) ist barrierefrei | - | |
Kostenfreie Services
In Präsenz | Online |
|---|---|
|
|
Buchungsmöglichkeiten
Online oder in Präsenz teilnehmen
Sie können sowohl Online als auch in Präsenz am Seminar teilnehmen. Klicken Sie bei Ihrer Buchung oder Anfrage einfach die entsprechende Option an.
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
- Lernumgebung in der Cloud
- 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Was bedeutet Offene Schulung und Inhouse Schulung?
Bei einer offenen Schulung stehen Ort und Termin vorab fest. Jeder Interessent kann eine offene Schulung buchen, daher treffen Teilnehmer aus verschiedenen Unternehmen aufeinander.
Inhouse Schulungen können auf Ihren individuellen Schulungsbedarf zugeschnitten werden. Sie bestimmen den Teilnehmerkreis, Termin und Schulungsort.
Ist eine Inhouse Schulung die richtige Wahl?
Bei einer Inhouse Schulung gehen wir auf die individuellen Bedürfnisse Ihres Unternehmens ein und decken den Schulungsbedarf direkt bei Ihnen im Unternehmen ab.
Das spart Zeit und Geld und sorgt für einen schnellen Wissenstransfer Ihrer Mitarbeiter.
Wer kümmert sich um die Technik bei Inhouse Schulungen?
Eine komplette Lernumgebung in der Cloud mit Remote Zugriff ist für uns selbstverständlich. Sie müssen sich um nichts kümmern. Lediglich ein funktionierender PC oder Notebook mit Internetanschluss sollte für jeden Teilnehmer am Schulungstag bereit stehen.
Vorteile einer Inhouse Schulung
- Kompetente Seminarberatung
- Dozenten aus der Praxis
- Auf Ihre Bedürfnisse zugeschnittener individueller Lernstoff
- Sie können den Termin flexibel gestalten, so wie es für Sie am besten passt
- Unsere Inhouse Schulungen können Europaweit durchgeführt werden
- Der Fokus liegt auf Ihrem Schulungsbedarf, somit schonen Sie Ihr Budget
- Wissenslücken Ihrer Mitarbeitet werden schnell geschlossen