742/B - LLMOps Engineer für KI-Services (m/w/d)

Mit unserer Plattform setzen wir auf moderne Technologien wie Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton, Huggingface TGI/TEI, arbeiten mit Partnern wie Nvidia oder Mistral AI eng zusammen – und suchen Kollegen, die sich organisatorisch in die Planung, Integration und Umsetzung neuer KI-Anwendungen einbringen und dabei die Compliance im Blick haben.

Übernimm eigenständig Aufgaben, die für die Weiterentwicklung der KI und Data Analytics Plattform wesentlich sind. Dabei wirkst du aktiv in einem dynamischen und aufgeweckten Team an der Implementierung von State-of-the-Art Systemtechnologien im Finanzsektor mit.

Aufgaben:

• Unterstützung beim Aufbau und der Pflege von Build-, Test- und Deployment-Pipelines für Container-Applikationen (z.B. Jenkins, GitHub Actions oder GitLabCI)
• Arbeit mit Helm-Charts und ArgoCD, um Container-Anwendungen in Kubernetes-Clustern zu deployen
• Unterstützung bei der Integration unimodaler (LLM, OCR, SST/TTS) und multimodaler KI-Modelle mit Tools wie Nvidia Triton, NIM oder HuggingFace-Komponenten (TGI, TEI, vLLM)
• Unterstützung beim Betrieb unserer zentralen Redis-Instanzen und Mitwirkung um sicherzustellen, dass sie hochverfügbar, sicher und performant bleiben
• Enge Zusammenarbeit mit Kolleg*innen aus unterschiedlichen Fachbereichen, Einbringung von Perspektiven in Architektur Entscheidungen und Unterstütztung bei der Weiterentwicklung unserer Plattform-Dienste
• Gemeinsame Entwicklung erster Standards und Best-Practice-Empfehlungen für den produktiven Einsatz von Redis mit erfahrenen Kolleg*innen
• Unterstützung interner Fachbereiche und Entwickler*innen bei Fragen zum Einsatz von Redis, insbesondere zu Themen wie Caching, Streams, Queues, Pub/Sub und der Auswahl passender Datenstrukturen

Profil:

• Abgeschlossenes Studium der Informatik, Wirtschaftsinformatik oder eine vergleichbare Ausbildung
• Erste fachbezogene Berufserfahrung
• Erste Erfahrung mit kleineren Continuous-Integration/Continuous-Delivery-Pipelines mit Tools wie Jenkins, GitHub oder GitLab
• Grundkenntnisse mit Helm-Charts und Basis-Verständnis von deklarativen Deployments über ArgoCD
• Idealerweise erste Berührungspunkte mit LLM-Inference-Tools
• Analytisches und kreatives Denken sowie selbständige und lösungsorientierte Arbeitsweise
• Bereitschaft, bei Bedarf auch nachts oder an Wochenenden im Rahmen der Rufbereitschaft zu unterstützen – zum Beispiel bei kritischen Deployments oder System-Incidents

Klingt interessant?

Wir freuen uns über alle Bewerbungen, unabhängig von Geschlecht, Alter, Behinderung, Religion, ethnischer Herkunft oder sexueller Identität, unter Angabe der Kennziffer 742/B.

We show an excerpt and a link, and the full text when the source allows it. Brands and logos shown belong to their owners.

Source: Statistisches Bundesamt (Destatis), table; dl-de/by-2-0; StarIn's calculation

Listed on a job portal Nov 11, 2026