GPU & AI Platform Engineer (m/w/d) in Remote & Kassel / ZGDF238285

Für einen unserer Großkunden suchen wir derzeit eine Unterstützung, die die nachfolgenden Anforderungen erfüllt:

Deine Aufgaben:

• Aufbau und Betrieb gehärteter, containerbasierter KI-Anwendungen in On-Premise-Umgebungen
• Inbetriebnahme und Betrieb GPU-gestützter Infrastrukturen
• Einrichtung und Konfiguration von GPU-Treibern, CUDA, Container Runtimes und GPU-Integration
• Aufbau und Betrieb von Kubernetes-basierten GPU-Umgebungen
• Implementierung und Betrieb von GPU-Operator, GPU-Sharing und Ressourcensteuerung
• Segmentierung von GPU-Ressourcen mittels NVIDIA MIG und vergleichbarer Verfahren
• Bereitstellung und Betrieb nativer CUDA-Workloads
• Aufbau und Betrieb von LLM-Serving-Stacks wie vLLM, TGI oder Triton
• Anbindung von KI-/LLM-Diensten an SAP-basierte Fachverfahren
• Umsetzung von Monitoring und Observability
• Implementierung von Zugriffssteuerungs- und Sicherheitsmechanismen für den On-Premise-Betrieb

Dein Profil:

• Fundierte Erfahrung im Aufbau und Betrieb containerbasierter KI-Anwendungen in On-Premise-Umgebungen
• Expertenwissen im Bereich GPU-Infrastrukturen
• Sehr gute Kenntnisse in NVIDIA GPU-Technologien, CUDA und GPU-Treibern
• Sehr gute Kenntnisse in Kubernetes und GPU-Operatoren
• Erfahrung mit GPU-Sharing, Ressourcensteuerung und NVIDIA MIG
• Erfahrung mit nativen CUDA-Workloads
• Kenntnisse in mindestens einem LLM-Serving-Stack wie vLLM, TGI oder Triton
• Erfahrung in der Integration von KI-/LLM-Diensten in SAP-basierte Fachverfahren
• Kenntnisse in Monitoring, Observability und Zugriffssteuerung
• Erfahrung mit dem sicheren Betrieb von KI-Infrastrukturen in On-Premise-Umgebungen

Rahmenparameter:

• Einsatzort: 95 % Remote / 5 % Kassel
• Laufzeit: 14.09.2026 bis 30.06.2027
• Auslastung: 53 PT

Dein GECO-Ansprechpartner freut sich auf Deine Kontaktaufnahme und über die Zusendung Deiner aussagekräftigen Projekthistorie sowie Deiner Honorarvorstellung/Gehaltsvorstellung/Preisvorstellung.