Bitte wählen Sie die Bereiche, die Sie exportieren möchten:
Schulung DeepSeek lokal installieren und betreiben: Open-Source-KI im Unternehmen
DeepSeek im Rechenzentrum: Souveräne KI-Power ohne Cloud-Zwang
Schulungsformen
Inhouse-/Firmenschulung
- 3 Tage - anpassbar
- Termin nach Wunsch
- In Ihrem Hause oder bei der GFU
- Preis nach Angebot
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
Beschreibung
Unternehmen profitieren von absoluter Datensouveränität für ihre sensibelsten Prozesse, der Einsparung massiver Cloud-Gebühren und der Fähigkeit, eine der weltweit stärksten KIs exakt an ihre internen Sicherheits- und Performance-Anforderungen anzupassen.
Auf der Suche nach einem anderen DeepSeek Seminar?
Schulungsziel
Die Teilnehmenden erlernen die Installation und Optimierung von DeepSeek-Modellen auf lokaler Hardware. Ziel ist es, die Hardware-Anforderungen für verschiedene Modellgrößen präzise zu kalkulieren, Modelle im GGUF- oder AWQ-Format bereitzustellen und einen OpenAI-kompatiblen API-Server aufzusetzen, der hohe Abfrageraten bei minimaler Latenz ermöglicht.
Details
Inhalt
- Ziele und Erwartungen der Teilnehmenden
- Klärung individueller Lernziele und Erwartungen für ein praxisnahes und relevantes Seminar
- 1. Die DeepSeek-Modellfamilie im Überblick
- DeepSeek-V3 vs. R1: Architektur-Unterschiede und spezifische Anwendungsfälle (Reasoning vs. General Purpose).
- Lizenzierung und Open-Source-Status: Was im kommerziellen Umfeld erlaubt ist.
- Leistungsvergleich: DeepSeek im Benchmark gegen GPT-4o und Claude 3.5.
- 2. Hardware-Anforderungen und Sizing
- VRAM-Kalkulation: Speicherbedarf für 7B, 32B und 67B/671B Modelle.
- Die Bedeutung der Quantisierung: Wie man 67B Modelle mit 40GB VRAM betreibt.
- Multi-GPU-Strategien: Einsatz von NVLink und Tensor-Parallelismus.
- 3. Installation und Inferenz-Engines
- Ollama: Der schnellste Weg zur lokalen Ausführung auf Workstations.
- vLLM: Die Enterprise-Lösung für maximalen Durchsatz (Continuous Batching).
- llama.cpp: Maximale Flexibilität für CPU-, GPU- und Hybrid-Inferenz.
- 4. Quantisierung und Formate
- GGUF-Standard: Portabilität und Effizienz für verschiedene Hardware-Plattformen.
- Quantisierungsstufen: Analyse von Q4_K_M, Q5_K_M und Q8_0 (Qualität vs. Geschwindigkeit).
- AWQ & GPTQ: Hardware-nahe Optimierung für NVIDIA-GPUs.
- 5. GPU-Konfiguration und Treiber-Stack
- CUDA-Setup: Optimierung des NVIDIA-Stacks für DeepSeek.
- ROCm-Support: Betrieb von DeepSeek auf AMD-Hardware.
- Monitoring: Überwachung von GPU-Last, VRAM-Belegung und Temperatur (nvidia-smi/nvtop).
- 6. API-Server und Integration
- OpenAI-Kompatibilität: Bereitstellung standardisierter Endpunkte (/v1/chat/completions).
- Sicherheit: Absicherung der API via Reverse Proxy und API-Keys.
- Client-Anbindung: DeepSeek in bestehende Applikationen (Python, JS) integrieren.
- 7. Performance-Tuning
- KV-Cache Management: Optimierung des Kontext-Speichers für lange Dokumente.
- Batch Size & Context Length: Das richtige Gleichgewicht zwischen Durchsatz und Latenz finden.
- Speculative Decoding: Beschleunigung der Inferenz durch kleinere Hilfsmodelle.
- 8. Containerisierung und Orchestrierung
- Docker-Deployment: Erstellung reproduzierbarer DeepSeek-Umgebungen.
- Kubernetes-Integration: Nutzung von GPU-Operatoren und Skalierung im Cluster.
- Storage-Anbindung: Schnelles Laden massiver Modell-Gewichte über S3 oder Netzwerk-Speicher.
- 9. Praxis-Workshop: "The DeepSeek Node"
- Workshop: Komplette Installation eines DeepSeek-V3 (quantisiert) auf einem GPU-Server.
- Benchmark-Task: Messung der Tokens pro Sekunde (TPS) unter verschiedenen Lastszenarien.
- Troubleshooting: Behebung von Out-of-Memory (OOM) Fehlern und Treiber-Konflikten.
- Final Roadmap: Aufbau einer dedizierten Inferenz-Umgebung für das Unternehmen.
Zielgruppe & Vorkenntnisse
- Systemadministratoren & Platform Engineers: Zum Aufbau der KI-Server-Infrastruktur.
- AI & Machine Learning Engineers: Zur Optimierung der Inferenz-Performance.
- IT-Architekten: Zur Integration von DeepSeek in die Unternehmens-IT.
- Sicherheitsbeauftragte: Zur Evaluierung von Air-Gapped-KI-Szenarien.
Ihre Schulung
In Präsenz | Online |
|---|---|
| Lernmethode | |
Ausgewogene Mischung aus Theorie und Praxis | Wie auch bei unseren Präsenz-Seminaren: Ausgewogene Mischung aus Theorie und praktischen Übungen. Trainer durchgehend präsent. |
| Unterlagen | |
Seminarunterlagen oder Fachbuch inklusive. Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. | Seminarunterlagen oder Fachbuch inklusive (via DHL). Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. |
| Arbeitsplatz | |
|
|
| Lernumgebung | |
Neu aufgesetzte Remote-Systeme für jeden Kurs in Abstimmung mit dem Seminarleiter, sodass Sie über ein perfektes Setup für die Durchführung aller praktischen Übungen verfügen. | |
| Arbeitsmaterialien | |
Din A4 Block, Notizblock, Kugelschreiber, USB-Stick, Textmarker, Post-its | |
| Teilnahmezertifikat | |
Nach Abschluss des Seminars erhalten Sie das Teilnahmezertifikat inkl. Inhaltsverzeichnis per E-Mail als PDF. | |
Organisation
In Präsenz | Online | |
|---|---|---|
| Teilnehmendenzahl | ||
min. 1, max. 8 Personen | ||
| Garantierte Durchführung * | ||
Ab 1 Teilnehmenden | ||
| Schulungszeiten | ||
| ||
| Ort der Schulung | ||
 GFU SchulungszentrumAm Grauen Stein 27 51105 Köln-Deutz oder online im Virtual Classroom oder europaweit bei Ihnen als Inhouse-Schulung Um ein optimales Raumklima zu gewährleisten, haben wir das Schulungszentrum mit 17 hochmodernen Trotec TAC V+ Luftreinigern ausgestattet. Diese innovative Filtertechnologie (H14 zertifiziert nach DIN EN1822) sorgt dafür, dass die Raumluft mehrfach pro Stunde umgewälzt wird und Schadstoffe zu 99.995% im HEPA-Filter abgeschieden und infektiöse Aerosole abgetötet werden. Zusätzlich sind alle Räume mit CO2-Ampeln ausgestattet, um jederzeit eine hervorragende Luftqualität sicherzustellen. | ||
| Räumlichkeiten | ||
Helle und modern ausgestattete Räume mit perfekter Infrastruktur | Bequem aus dem Homeoffice von überall | |
| All-Inclusive | ||
Frühstück, Snacks und Getränke ganztägig, Mittagessen im eigenen Restaurant, täglich 6 Menüs, auch vegetarisch | Eine Auswahl unserer Frühstücks-Snacks und Nervennahrungs-Highlights senden wir Ihnen mit den Seminarunterlagen via DHL zu. | |
| Barrierefreiheit | ||
Das GFU-Schulungszentrum (Am Grauen Stein 27) ist barrierefrei | - | |
Kostenfreie Services
In Präsenz | Online |
|---|---|
|
|
Buchungsmöglichkeiten
Online oder in Präsenz teilnehmen
Sie können sowohl Online als auch in Präsenz am Seminar teilnehmen. Klicken Sie bei Ihrer Buchung oder Anfrage einfach die entsprechende Option an.
- Lernumgebung in der Cloud
- Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
Was bedeutet Offene Schulung und Inhouse Schulung?
Bei einer offenen Schulung stehen Ort und Termin vorab fest. Jeder Interessent kann eine offene Schulung buchen, daher treffen Teilnehmer aus verschiedenen Unternehmen aufeinander.
Inhouse Schulungen können auf Ihren individuellen Schulungsbedarf zugeschnitten werden. Sie bestimmen den Teilnehmerkreis, Termin und Schulungsort.
Ist eine Inhouse Schulung die richtige Wahl?
Bei einer Inhouse Schulung gehen wir auf die individuellen Bedürfnisse Ihres Unternehmens ein und decken den Schulungsbedarf direkt bei Ihnen im Unternehmen ab.
Das spart Zeit und Geld und sorgt für einen schnellen Wissenstransfer Ihrer Mitarbeiter.
Wer kümmert sich um die Technik bei Inhouse Schulungen?
Eine komplette Lernumgebung in der Cloud mit Remote Zugriff ist für uns selbstverständlich. Sie müssen sich um nichts kümmern. Lediglich ein funktionierender PC oder Notebook mit Internetanschluss sollte für jeden Teilnehmer am Schulungstag bereit stehen.
Vorteile einer Inhouse Schulung
- Kompetente Seminarberatung
- Dozenten aus der Praxis
- Auf Ihre Bedürfnisse zugeschnittener individueller Lernstoff
- Sie können den Termin flexibel gestalten, so wie es für Sie am besten passt
- Unsere Inhouse Schulungen können Europaweit durchgeführt werden
- Der Fokus liegt auf Ihrem Schulungsbedarf, somit schonen Sie Ihr Budget
- Wissenslücken Ihrer Mitarbeitet werden schnell geschlossen