settings
OTEX_BIGISTQB®
Süddeutsche Zeitung Institut Auszeichnung
 Image
Alle KI Schulungen

Schulung Souveräne Agentic-AI-Plattform: Self-hosted Dify und Alternativen 2026

Plattform-Vergleich (Dify, LangFlow, Flowise, n8n), Self-Hosting-Architektur, lokale LLM-Integration mit Ollama und vLLM

2 Tage / S7008
Neues Seminar
Per E-Mail senden

Schulungsformen

Inhouse-/Firmenschulung

  • 2 Tage - anpassbar
  • Termin nach Wunsch
  • In Ihrem Hause oder bei der GFU
  • Preis nach Angebot

  • Lernumgebung in der Cloud
  • Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
Präsenz Online Hybrid

Individualschulung

  • 2 Tage - anpassbar
  • Termin nach Wunsch
  • In Ihrem Hause oder bei der GFU
  • Preis nach Angebot

  • Lernumgebung in der Cloud
  • 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Präsenz Online Hybrid

Beschreibung

Souveränität bei Agentic AI ist 2026 ein strategisches Thema in DACH-Konzernen, Behörden und souveränitäts-orientierten Sektoren. Mit US-Cloud-Risiken, EU-AI-Act-Anforderungen, DSGVO-Druck, NIS-2-Pflichten und steigendem Bedarf an Datenresidenz wird die Self-Hosted-Frage drängend. Dify als Open-Source-Plattform, LangFlow und Flowise als Alternativen und n8n als Workflow-Schwerpunkt bieten unterschiedliche Self-Hosting-Optionen - jeweils mit eigenen Stärken und Risiken.
Was 2026 zählt, ist der messbare Plattform-Output : Anzahl produktiver Agenten, Datenresidenz-Quote, Compliance-Erfüllung, Plattform-Verfügbarkeit. Ein souveräner Agentic-AI-Plattform-Verantwortlicher mit KI-Werkzeug-Disziplin liefert oft deutlich mehr als Kollegen ohne diese Werkzeuge. Dieses Zwei-Tage-Seminar vermittelt souveräne Agentic-AI-Plattform-Praxis konsequent souveränitäts-orientiert mit klarem Hands-on-Fokus.

Auf der Suche nach einer anderen KI Weiterbildung?

Schulungsziel

Jede teilnehmende Person verlässt das Seminar mit einem strukturierten Verständnis der souveränen Agentic-AI-Realität 2026, der Beherrschung von Souveränitäts-Grundlagen mit DSGVO- und EU-AI-Act-Bezug, der Routine im Plattform-Vergleich (Dify, LangFlow, Flowise, n8n), der Praxis im Self-Hosting mit Docker-Compose und Kubernetes-Optionen, der Beherrschung der lokalen LLM-Integration mit Ollama und vLLM, der Routine in Tool-Integration und souveränen Wissensbasen mit pgvector und Qdrant, der Praxis in Sicherheits-Disziplin mit Plattform-Härtung und Guardrails, der Beherrschung von KI-Governance mit ISO 42001-Bezug, der Routine in Skalierung und Betrieb und einer persönlichen 90-Tage-Plattform-Roadmap mit messbaren Output-Zielen - einsetzbar im eigenen Plattform-Alltag ab dem ersten Arbeitstag nach dem Seminar, mit mindestens einer lauffähigen Self-hosted Dify-Instanz mit lokalem LLM.

Details

Inhalt

Tag 1: Souveränität, Plattform-Vergleich, Self-Hosting
1. Souveränitäts-Grundlagen für Agentic-AI
  • Ziele und Erwartungen der Teilnehmenden
    • Klärung individueller Lernziele und Erwartungen für ein praxisnahes und relevantes Seminar
  • Souveränitäts-Definition: Datenresidenz, Anbieter-Unabhängigkeit, Open-Source-Disziplin, Exit-Strategie.
  • US-Cloud-Risiken: Cloud Act, FISA 702, Schrems-II-Urteil, EU-US Data Privacy Framework und seine Risiken.
  • EU-Souveränitäts-Initiativen: Gaia-X, Sovereign Cloud Stack, EU-Datenraum-Strategie.
  • Datenresidenz-Anforderungen pro Branche: Behörden, Banken (DORA), Gesundheit (Patientendaten), KRITIS, Verteidigung.
  • Agentic-AI-spezifische Souveränitäts-Aspekte: Prompts mit Geschäftsgeheimnissen, Wissensbasen mit personenbezogenen Daten, Agent-Aktionen mit Datenfluss.
  • Praxis-Übung: Souveränitäts-Bestandsaufnahme - für die eigene Organisation Souveränitäts-Anforderungen mit drei Datenresidenz-Levels und drei kritischen Agentic-AI-Daten-Typen mit KI-Unterstützung dokumentieren.
2. Plattform-Vergleich: Dify, LangFlow, Flowise, n8n
  • Dify: Open-Source (Apache 2.0), Workflow- und Agent-Builder, RAG-Wissensbasen, breite Modell-Integration; entwickelt in China (LangGenius), Self-Hosting mildert Bedenken.
  • LangFlow: Open-Source (MIT), visueller Flow-Builder, Python-basiert, entwickelt in den USA (jetzt bei DataStax/IBM).
  • Flowise: Open-Source (Apache 2.0), visueller Flow-Builder, Node.js-basiert, UK-basierte Community.
  • n8n: Workflow-Plattform mit AI-Integration, Fair-Code-Lizenz, deutsche Wurzeln.
  • LibreChat als komplementäres Tool: Self-hostbarer ChatGPT-Alternative mit Multi-Modell-Support.
  • Auswahl-Kriterien: Souveränitäts-Anforderungen, Funktions-Tiefe, Self-Hosting-Aufwand, Community-Grösse, Lizenz-Disziplin.
  • Praxis-Übung: Plattform-Vergleichs-Übung mit KI - für die eigene Organisation drei Plattformen mit Souveränitäts-, Funktions- und Betriebs-Kriterien mit KI-Unterstützung vergleichen.
3. Self-Hosting-Architektur und Deployment
  • Deployment-Optionen: Docker-Compose für Single-Host, Kubernetes für Cluster-Deployment.
  • Infrastruktur-Anforderungen: CPU, Memory, GPU für lokale Modelle, Storage.
  • Hosting-Optionen: On-Premises-Rechenzentrum, Sovereign Cloud (IONOS, Open Telekom Cloud, plusserver), private Cloud.
  • Reverse Proxy und TLS-Termination: Traefik, Nginx, Caddy.
  • Backup-Strategien: Datenbank-Backups, Konfigurations-Backups, Wissensbasen-Backups.
  • High-Availability-Patterns: Active-Passive vs. Active-Active für Produktions-Setups.
  • Praxis-Übung: Self-Hosting-Übung in geschütztem Lab - eine Dify-Instanz mit Docker-Compose deployen, Reverse Proxy mit TLS konfigurieren, drei Test-Workflows einrichten.
4. Lokale LLM-Integration mit Ollama und vLLM
  • Ollama als Standard-Werkzeug für lokale Modelle: Installation, Modell-Management, API-Integration.
  • vLLM für Production-Inference: GPU-optimiert, OpenAI-API-kompatibel, hoher Durchsatz.
  • Modell-Optionen: Llama 3.x, Qwen, Mistral, DeepSeek V4 (1,6T MoE-Parameter, 1M-Kontext, MIT-Lizenz), Mixtral.
  • Quantisierung: GGUF-Format, 4-bit, 8-bit, FP16 für unterschiedliche Hardware.
  • GPU-Anforderungen: NVIDIA H100, A100, RTX 4090, RTX 5090 für unterschiedliche Modell-Grössen.
  • LiteLLM als Universal-Gateway: OpenAI-API-kompatibles Routing zu lokalen und Cloud-Modellen.
  • Praxis-Übung: Lokale LLM-Übung in geschütztem Lab - Ollama mit einem lokalen Modell (z.B. Llama 3.3 oder Qwen) starten, in Dify als Modell-Provider integrieren, einen Agent mit lokalem Modell testen.
Tag 2: Tools, Wissensbasen, Sicherheit, KI-Governance, Roadmap
5. Tool-Integration in souveränen Setups
  • Tool-Integration-Patterns: lokale APIs vs. externe APIs, Webhooks, Datenbank-Direktzugriff.
  • Souveräne Tool-Auswahl: lokale CRMs (sevdesk, weclapp, lexware), lokale Ticket-Systeme (OTRS, Zammad), lokale E-Mail-Server.
  • Model Context Protocol (MCP) als emerging Standard für Tool-Integration.
  • Custom-Tool-Entwicklung: in Dify, n8n und LangFlow.
  • Authentication für Tools: API-Keys-Verwaltung in Self-hosted Setups, Vault-Integration für sensible Credentials.
  • Praxis-Übung: Tool-Integrations-Übung mit KI in geschütztem Lab - den Dify-Agent um eine lokale API-Integration (z.B. interne Wissens-API) mit KI-Unterstützung erweitern.
6. Souveräne Wissensbasen mit RAG
  • RAG (Retrieval-Augmented Generation)-Grundlagen für Agentic-AI.
  • Souveräne Vector-Stores: pgvector (PostgreSQL), Qdrant (selbst-hostbar), Weaviate, Milvus, Chroma.
  • Embedding-Modelle: lokale Embedding-Modelle mit Ollama (nomic-embed-text, mxbai-embed-large), BGE-Modelle.
  • Chunking-Strategien für unterschiedliche Dokument-Typen.
  • Datenschutz-Disziplin: was darf in die Wissensbasis, was nicht (PII-Filterung, Geschäftsgeheimnisse).
  • Wissensbasis-Pflege: Aktualisierung, Versionierung, Audit-Trail.
  • Praxis-Übung: Wissensbasis-Übung in geschütztem Lab - eine Self-hosted Wissensbasis in Dify mit pgvector und lokalen Embeddings aufbauen, fünf Test-Dokumente einlesen, Test-Fragen durchlaufen.
7. Sicherheits-Disziplin für Agentic-AI-Plattformen
  • Plattform-Härtung: Netzwerk-Segmentierung, Firewall-Regeln, TLS überall.
  • Authentication und Authorization: SSO über OIDC/SAML, RBAC für Dify-Workspaces.
  • Audit-Logging: alle Agent-Aktionen, Wissensbasis-Zugriffe, Konfigurations-Änderungen.
  • Prompt-Injection-Schutz: Input-Guardrails, System-Prompt-Härtung.
  • Output-Filterung: PII-Detection, Markenton-Konsistenz, Halluzinations-Filter.
  • Guardrails-Frameworks: NeMo Guardrails (NVIDIA), Guardrails AI, native Plattform-Features.
  • Backup und Disaster Recovery: Test-Routine für Wiederherstellung.
  • Praxis-Übung: Sicherheits-Übung mit KI in geschütztem Lab - für die Dify-Instanz drei Härtungs-Massnahmen (Netzwerk, Auth, Logging) mit KI-Unterstützung konfigurieren, Audit-Log-Workflow skizzieren.
8. KI-Governance, DSGVO und EU-AI-Act
  • KI-Governance für souveräne Plattformen: Verantwortlichkeiten, Approval-Workflows, Acceptable-Use-Policies.
  • DSGVO-Disziplin: Auftragsverarbeitungs-Vereinbarungen entfallen bei Self-Hosting, dafür eigene Verantwortlichkeiten erweitert.
  • EU-AI-Act seit 2. August 2026: Transparenz-Pflichten, Pflicht-Schulung gemäss Art. 4, Hochrisiko-System-Klassifikation.
  • ISO 42001 (AIMS) als emerging Standard: AI Management System für Konzerne und Behörden.
  • Compliance-Mapping: NIS-2-Anforderungen an KI-Systeme, DORA-Anforderungen für Finanz-Sektor.
  • Audit-Vorbereitung: was muss dokumentiert sein für Aufsichts-Audits.
  • Praxis-Übung: Governance-Übung mit KI - für die eigene Souveräne Agentic-AI-Plattform eine kurze Governance-Dokumentation (Verantwortlichkeiten, Acceptable Use, Audit-Anforderungen) mit KI-Unterstützung entwerfen.
9. Skalierung, Betrieb und persönliche Roadmap
  • Skalierungs-Patterns: vom Pilot zum Team-Tool zum Konzern-Tool.
  • Monitoring: Prometheus, Grafana für Dify-Metriken, Token-Usage-Tracking, Cost-Tracking für lokale GPU-Ressourcen.
  • LLM-Cost-Management bei lokalen Modellen: GPU-Auslastung, Energie-Verbrauch.
  • Update-Disziplin: Dify-Versionen, Sicherheits-Patches, Modell-Updates.
  • Multi-Tenant-Patterns für Konzern-Setups: getrennte Workspaces, getrennte Vector-Stores.
  • Praxis-Übung: Persönliche 90-Tage-Plattform-Roadmap als Souveräner Agentic-AI-Plattform-Verantwortlicher - aktuelle Position, Zielposition in 12 Monaten, drei Lern-Schwerpunkte, drei Werkzeuge im Stack, ein messbares Output-Ziel pro Monat (Anzahl produktiver Agenten, Datenresidenz-Quote, Plattform-Verfügbarkeit), Sparring-Buddy aus dem Seminar.

  • Platform-Engineers und KI-Plattform-Verantwortliche: Die eine souveräne Agentic-AI-Plattform aufbauen wollen.
  • IT-Architekten und Cloud-Architekten: Die Self-Hosting-Strategien für Agentic-AI evaluieren.
  • CISOs und Information-Security-Officer: Die Datenresidenz und Sicherheits-Disziplin bei Agentic-AI sicherstellen wollen.
  • Verantwortliche in souveränitäts-orientierten Organisationen: Behörden, Banken, Gesundheits-Sektor, KRITIS-Sektoren, Verteidigung.
Voraussetzungen: Solide IT-Grundkenntnisse. Erfahrung mit Linux und Container-Technologien (Docker, Docker-Compose). Grundlegende Cloud- oder On-Premises-Infrastruktur-Erfahrung. Erste Berührung mit KI-Tools (ChatGPT, Claude). Idealerweise vorheriger Besuch des Agentic Operations 2026-Formats oder vergleichbare Agentic-AI-Erfahrung.
Abgrenzung: Vermittelt Souveräne-Agentic-AI-Plattform-Praxis - nicht reine Fachabteilungs-Schulung (dafür: Agentic Operations 2026), nicht Entwickler-Schulung zu LangChain oder API-Programmierung, nicht klassische Cloud-Schulung. Fokussiert auf den Aufbau und Betrieb souveräner Self-hosted Agentic-AI-Plattformen mit Datenresidenz und Sicherheits-Disziplin.


In Präsenz

Online
Lernmethode

Ausgewogene Mischung aus Theorie und praktischen Übungen auf persönlichem Schulungs-PC.

Wie auch bei unseren Präsenz-Seminaren: Ausgewogene Mischung aus Theorie und praktischen Übungen. Trainer durchgehend präsent.

Unterlagen

Seminarunterlagen oder Fachbuch inklusive. Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne.

Seminarunterlagen oder Fachbuch inklusive (via DHL). Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne.

Arbeitsmaterialien

Din A4 Block, Notizblock, Kugelschreiber, USB-Stick, Textmarker, Post-its

Teilnahmezertifikat

Nach Abschluss des Seminars erhalten Sie das Teilnahmezertifikat inkl. Inhaltsverzeichnis per E-Mail als PDF.


In Präsenz

Online
Teilnehmendenzahl

min. 1, max. 8 Personen

Garantierte Durchführung *

Ab 1 Teilnehmenden

Schulungszeiten
2 Tage, 09:00 - 16:00 Uhr
Ort der Schulung
GFU Schulungszentrum oder Virtual Classroom
GFU Schulungszentrum
Am Grauen Stein 27
51105 Köln-Deutz

oder online im Virtual Classroom oder europaweit bei Ihnen als Inhouse-Schulung

Um ein optimales Raumklima zu gewährleisten, haben wir das Schulungszentrum mit 17 hochmodernen Trotec TAC V+ Luftreinigern ausgestattet. Diese innovative Filtertechnologie (H14 zertifiziert nach DIN EN1822) sorgt dafür, dass die Raumluft mehrfach pro Stunde umgewälzt wird und Schadstoffe zu 99.995% im HEPA-Filter abgeschieden und infektiöse Aerosole abgetötet werden.

Zusätzlich sind alle Räume mit CO2-Ampeln ausgestattet, um jederzeit eine hervorragende Luftqualität sicherzustellen.

Räumlichkeiten

Helle und modern ausgestattete Räume mit perfekter Infrastruktur

Bequem aus dem Homeoffice von überall

All-Inclusive

Frühstück, Snacks und Getränke ganztägig, Mittagessen im eigenen Restaurant, täglich 6 Menüs, auch vegetarisch

Eine Auswahl unserer Frühstücks-Snacks und Nervennahrungs-Highlights senden wir Ihnen mit den Seminarunterlagen via DHL zu.
Barrierefreiheit

Das GFU-Schulungszentrum (Am Grauen Stein 27) ist barrierefrei

-

In Präsenz

Online
  • Eigener Shuttle-Service
  • Reservierte Parkplätze
  • Hotelreservierung
  • Technik-Sofort-Support

Buchungsmöglichkeiten

Online oder in Präsenz teilnehmen

Sie können sowohl Online als auch in Präsenz am Seminar teilnehmen. Klicken Sie bei Ihrer Buchung oder Anfrage einfach die entsprechende Option an.

Inhouse-/Firmenschulung
  • Lernumgebung in der Cloud
  • Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
Präsenz Online Hybrid
Individualschulung
  • Lernumgebung in der Cloud
  • 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Präsenz Online Hybrid

So haben GFU-Kunden gestimmt

Zu diesem Seminar wurden noch keine Bewertungen abgegeben.

FAQ für Inhouse Schulungen

Bei einer offenen Schulung stehen Ort und Termin vorab fest. Jeder Interessent kann eine offene Schulung buchen, daher treffen Teilnehmer aus verschiedenen Unternehmen aufeinander.

Inhouse Schulungen können auf Ihren individuellen Schulungsbedarf zugeschnitten werden. Sie bestimmen den Teilnehmerkreis, Termin und Schulungsort.

Bei einer Inhouse Schulung gehen wir auf die individuellen Bedürfnisse Ihres Unternehmens ein und decken den Schulungsbedarf direkt bei Ihnen im Unternehmen ab.

Das spart Zeit und Geld und sorgt für einen schnellen Wissenstransfer Ihrer Mitarbeiter.

Eine komplette Lernumgebung in der Cloud mit Remote Zugriff ist für uns selbstverständlich. Sie müssen sich um nichts kümmern. Lediglich ein funktionierender PC oder Notebook mit Internetanschluss sollte für jeden Teilnehmer am Schulungstag bereit stehen.

  • Kompetente Seminarberatung
  • Dozenten aus der Praxis
  • Auf Ihre Bedürfnisse zugeschnittener individueller Lernstoff
  • Sie können den Termin flexibel gestalten, so wie es für Sie am besten passt
  • Unsere Inhouse Schulungen können Europaweit durchgeführt werden
  • Der Fokus liegt auf Ihrem Schulungsbedarf, somit schonen Sie Ihr Budget
  • Wissenslücken Ihrer Mitarbeitet werden schnell geschlossen
aegallianzaxaElement 1deutsche-bankdeutsche-postlufthansamercedessonyzdf