Bitte wählen Sie die Bereiche, die Sie exportieren möchten:
Schulung Kafka Connect: Daten zwischen Kafka und externen Systemen integrieren
Low-Code Data Streaming: Integration mit Source- und Sink-Connectoren
Schulungsformen
Inhouse-/Firmenschulung
- 2 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
Individualschulung
- 2 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Beschreibung
Unternehmen profitieren von drastisch reduzierten Entwicklungszeiten für Daten-Pipelines, der Eliminierung von Batch-Fenstern zugunsten von Echtzeit-Analysen und einer sauberen Entkopplung ihrer Systeme durch den Standard Kafka Connect.
Noch mehr Kafka Wissen erhalten Sie auch in unseren weiteren Kafka Trainings.
Schulungsziel
Die Teilnehmenden erlernen den Aufbau und Betrieb von Kafka-Connect-Clustern zur automatisierten Datenintegration. Ziel ist es, einsatzbereite Konnektoren für verschiedene Quellen (JDBC, S3) und Ziele (Elasticsearch, BigQuery) zu konfigurieren, Transformationslogiken (SMT) anzuwenden und Fehlerzustände über Dead Letter Queues robust abzufangen.
Details
Inhalt
- Ziele und Erwartungen der Teilnehmenden
- Klärung individueller Lernziele und Erwartungen für ein praxisnahes und relevantes Seminar
- 1. Architektur von Kafka Connect
- Worker & Tasks: Das Verteilungsmodell für hohe Verfügbarkeit und Skalierung.
- Standalone vs. Distributed Mode: Wann welches Deployment-Modell sinnvoll ist.
- REST API: Verwaltung und Monitoring von Konnektoren über Schnittstellen.
- 2. Source Connectors: Daten in Kafka einspeisen
- JDBC Source: Abfragen von relationalen Datenbanken.
- Change Data Capture (CDC): Tiefeneinblick in Debezium (MySQL, Postgres, SQL Server).
- File & Cloud Source: Integration von S3-Buckets und Logfiles.
- 3. Sink Connectors: Daten aus Kafka exportieren
- Search & Analytics: Indexierung von Daten in Elasticsearch und OpenSearch.
- Cloud Data Warehousing: Export nach BigQuery , Snowflake oder Redshift.
- Long-term Storage: Archivierung von Streams in S3, GCS oder Azure Blob Storage.
- NoSQL Sinks: Anbindung von MongoDB und Cassandra.
- 4. Single Message Transforms (SMT)
- On-the-fly Transformation: Felder umbenennen, maskieren oder Datentypen ändern.
- Routing: Dynamische Verteilung von Nachrichten auf Topics basierend auf Inhalten.
- Chaining: Kombination mehrerer Transformationen in einer Konnektor-Konfiguration.
- 5. Schema Registry Integration
- Data Governance: Sicherstellung der Kompatibilität zwischen Producer und Consumer.
- Serialisierung: Einsatz von Avro, Protobuf oder JSON Schema in Connect-Pipelines.
- Converter-Konfiguration: Wie Connectoren mit Schemata kommunizieren.
- 6. Fehlertoleranz und Dead Letter Queues (DLQ)
- Error Handling: Strategien beim Auftreten von korrupten Daten.
- Dead Letter Queues: Isolierung fehlerhafter Nachrichten für die spätere Analyse.
- Retry-Mechanismen: Konfiguration von Wiederholungsversuchen bei temporären Fehlern.
- 7. Performance-Tuning und Skalierung
- Parallelisierung: Optimierung der Task-Anzahl pro Konnektor.
- Batching & Buffering: Durchsatz erhöhen vs. Latenz minimieren.
- Resource Management: Heap-Size und Worker-Konfiguration für große Datenmengen.
- 8. Monitoring und Security
- JMX Metriken: Überwachung von Lag, Fehlerraten und Durchsatz.
- Sicherheit: Authentifizierung am Kafka-Cluster und Verschlüsselung von API-Secrets.
- Log-Analyse: Systematisches Troubleshooting in den Connect-Worker-Logs.
- 9. Praxis-Workshop: "The Full Data Pipeline"
- Workshop: Setup einer CDC-Pipeline von Postgres (Source) nach Elasticsearch (Sink).
- Transformation-Task: Implementierung eines SMT zur Anonymisierung sensibler Daten.
- Error-Challenge: Debugging einer Pipeline bei Schema-Verletzungen und Nutzung der DLQ.
- Final Roadmap: Auswahl der passenden Konnektoren für die eigene Unternehmens-IT.
Zielgruppe & Vorkenntnisse
- Data Engineers & Architekten: Zur Automatisierung von ETL/ELT-Prozessen.
- Software-Entwickler: Die Microservices mit externen Datenspeichern verbinden möchten.
- Systemadministratoren & DevOps: Zum Betrieb und Monitoring von Connect-Clustern.
- Database Administrators (DBA): Zur Implementierung von Real-time Replikationsszenarien.
Ihre Schulung
In Präsenz | Online |
|---|---|
| Lernmethode | |
Ausgewogene Mischung aus Theorie und Praxis | Wie auch bei unseren Präsenz-Seminaren: Ausgewogene Mischung aus Theorie und praktischen Übungen. Trainer durchgehend präsent. |
| Unterlagen | |
Seminarunterlagen oder Fachbuch inklusive. Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. | Seminarunterlagen oder Fachbuch inklusive (via DHL). Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. |
| Arbeitsplatz | |
|
|
| Lernumgebung | |
Neu aufgesetzte Remote-Systeme für jeden Kurs in Abstimmung mit dem Seminarleiter, sodass Sie über ein perfektes Setup für die Durchführung aller praktischen Übungen verfügen. | |
| Arbeitsmaterialien | |
Din A4 Block, Notizblock, Kugelschreiber, USB-Stick, Textmarker, Post-its | |
| Teilnahmezertifikat | |
Nach Abschluss des Seminars erhalten Sie das Teilnahmezertifikat inkl. Inhaltsverzeichnis per E-Mail als PDF. | |
Organisation
In Präsenz | Online | |
|---|---|---|
| Teilnehmendenzahl | ||
min. 1, max. 8 Personen | ||
| Garantierte Durchführung * | ||
Ab 1 Teilnehmenden | ||
| Schulungszeiten | ||
| ||
| Ort der Schulung | ||
 GFU SchulungszentrumAm Grauen Stein 27 51105 Köln-Deutz oder online im Virtual Classroom oder europaweit bei Ihnen als Inhouse-Schulung Um ein optimales Raumklima zu gewährleisten, haben wir das Schulungszentrum mit 17 hochmodernen Trotec TAC V+ Luftreinigern ausgestattet. Diese innovative Filtertechnologie (H14 zertifiziert nach DIN EN1822) sorgt dafür, dass die Raumluft mehrfach pro Stunde umgewälzt wird und Schadstoffe zu 99.995% im HEPA-Filter abgeschieden und infektiöse Aerosole abgetötet werden. Zusätzlich sind alle Räume mit CO2-Ampeln ausgestattet, um jederzeit eine hervorragende Luftqualität sicherzustellen. | ||
| Räumlichkeiten | ||
Helle und modern ausgestattete Räume mit perfekter Infrastruktur | Bequem aus dem Homeoffice von überall | |
| All-Inclusive | ||
Frühstück, Snacks und Getränke ganztägig, Mittagessen im eigenen Restaurant, täglich 6 Menüs, auch vegetarisch | Eine Auswahl unserer Frühstücks-Snacks und Nervennahrungs-Highlights senden wir Ihnen mit den Seminarunterlagen via DHL zu. | |
| Barrierefreiheit | ||
Das GFU-Schulungszentrum (Am Grauen Stein 27) ist barrierefrei | - | |
Kostenfreie Services
In Präsenz | Online |
|---|---|
|
|
Buchungsmöglichkeiten
Online oder in Präsenz teilnehmen
Sie können sowohl Online als auch in Präsenz am Seminar teilnehmen. Klicken Sie bei Ihrer Buchung oder Anfrage einfach die entsprechende Option an.
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
- Lernumgebung in der Cloud
- 1 Teilnehmender = Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
Was bedeutet Offene Schulung und Inhouse Schulung?
Bei einer offenen Schulung stehen Ort und Termin vorab fest. Jeder Interessent kann eine offene Schulung buchen, daher treffen Teilnehmer aus verschiedenen Unternehmen aufeinander.
Inhouse Schulungen können auf Ihren individuellen Schulungsbedarf zugeschnitten werden. Sie bestimmen den Teilnehmerkreis, Termin und Schulungsort.
Ist eine Inhouse Schulung die richtige Wahl?
Bei einer Inhouse Schulung gehen wir auf die individuellen Bedürfnisse Ihres Unternehmens ein und decken den Schulungsbedarf direkt bei Ihnen im Unternehmen ab.
Das spart Zeit und Geld und sorgt für einen schnellen Wissenstransfer Ihrer Mitarbeiter.
Wer kümmert sich um die Technik bei Inhouse Schulungen?
Eine komplette Lernumgebung in der Cloud mit Remote Zugriff ist für uns selbstverständlich. Sie müssen sich um nichts kümmern. Lediglich ein funktionierender PC oder Notebook mit Internetanschluss sollte für jeden Teilnehmer am Schulungstag bereit stehen.
Vorteile einer Inhouse Schulung
- Kompetente Seminarberatung
- Dozenten aus der Praxis
- Auf Ihre Bedürfnisse zugeschnittener individueller Lernstoff
- Sie können den Termin flexibel gestalten, so wie es für Sie am besten passt
- Unsere Inhouse Schulungen können Europaweit durchgeführt werden
- Der Fokus liegt auf Ihrem Schulungsbedarf, somit schonen Sie Ihr Budget
- Wissenslücken Ihrer Mitarbeitet werden schnell geschlossen