LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Für die Organisationseinheit KI Plattform suchen wir zum nächstmöglichen Termin für den Standort Hannover, Münster oder Frankfurt am Main einen

LLMOps Engineer für CI / CD & Inference Services (m/w/d) .

Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden wie Sparkassen und Verbundpartner bereit.

In der Rolle als MLOps Engineer gestaltest du aktiv die technische Basis für skalierbare, sichere und performante KI-Lösungen – von der automatisierten Bereitstellung über Inferenzinfrastruktur bis hin zum Modellbetrieb. Du entwickelst gemeinsam mit Experten aus AI Engineering, System Engineering und Softwareentwicklung moderne Werkzeuge und Prozesse für datengetriebenes Banking für über 50 Millionen Kunden.

Mit unserer Plattform setzen wir auf moderne Technologien wie Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton, Huggingface TGI/TEI, arbeiten mit Partnern wie Nvidia oder Mistral AI eng zusammen – und suchen Kollegen, die entweder im Bereich CI/CD & Plattformautomatisierung oder im Bereich LLM-Infrastruktur & Inferenzservices ihre Expertise mit einbringen und weiter ausbauen.

Deine Aufgaben

• Verantwortung für die Automatisierung des Build-, Test- und Deployment-Prozess für unsere Container-Anwendungen mit Jenkins, GitHub Actions oder GitLab CI und kontinuierliche Integration neuer Use Cases kontinuierlich in unsere Plattform-Pipelines
• Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern und Sicherstellung von sicheren, reproduzierbare Deployments
• Betrieb und Administration unserer zentralen Redis-Plattformservices und Verantwortung für deren hochverfügbaren, sicheren und performanten Betrieb
• Beratung unserer internen Kunden und Entwicklungsteams beim Einsatz von Redis und Unterstützung bei Architektur- und Designentscheidungen – beispielsweise bei Caching, Streams, Queues, Pub/Sub und der Auswahl geeigneter Datenstrukturen
• Bereitstellung und Betrieb von KI- und Plattformservices und Einbringung bei Architekturentscheidungen und der Weiterentwicklung unserer Plattform
• Enger Austausch mit Herstellern und Technologiepartnern für die zukunftsorientierte Weiterentwicklung unserer Plattformarchitektur
• Bereitstellung von unimodalen (z.B. LLM, OCR, SST/TTS) und multimodalen KI-Modellen mittels Nvidia Triton, NIM oder Alternativen wie Huggingface TGI, TEI oder vLLM

Dein Profil

• Abgeschlossenes Informatikstudium oder eine vergleichbare Ausbildung
• Mindestens 6 Jahre stellenbezogene Berufserfahrung
• Umfangreiche Erfahrung im Betrieb verteilter Systeme und idealerweise praktische Kenntnisse mit Redis oder vergleichbaren In-Memory-/NoSQL-Technologien
• Gute Kenntnisse rund um Hochverfügbarkeit, Skalierung, Performance-Optimierung, Monitoring und Troubleshooting von Redis sind von Vorteil
• Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o. Ä.) sowie Begeisterung für moderne Plattformtechnologien und die Bereitschaft, sich sowohl mit dem technischen Betrieb als auch mit deren sinnvoller Nutzung durch Anwendungsentwickler auseinanderzusetzen
• Teamgeist, Eigeninitiative sowie analytisches Denken und eigenverantwortliches Handeln
• Bereitschaft für Nacht- und Wochenendeinsätze sowie Teilnahme an der Rufbereitschaft

Deine Benefits bei der Finanz Informatik:

Du fragst dich, warum du bei der Finanz Informatik arbeiten solltest? Wir hätten da ein paar gute Gründe für dich. Neben flexiblen Arbeitszeiten, vergünstigten Jobtickets oder der Möglichkeit, mobil zu arbeiten, bieten wir dir noch viel mehr:

• Altersvorsorge
• Barrierefrei
• Betriebssport
• Familienservice
• Firmenevents
• Flexible Arbeitszeiten
• Mobiles Arbeiten
• Jobticket
• Kantine
• Tarifvertrag
• Weiterbildung
• Fitnessförderung

Bei uns erwartet dich eine attraktive Vergütung basierend auf deiner Qualifikation sowie deiner relevanten, praktischen Erfahrung.

Klingt interessant?

Wir freuen uns über alle Bewerbungen, unabhängig von Geschlecht, Alter, Behinderung, Religion, ethnischer Herkunft oder sexueller Identität, unter Angabe der Kennziffer 741/B.

Solltest du vorab weitere Auskünfte zu dieser Stelle wünschen, steht dir gerne Herr Dominik Och zur Verfügung. Du erreichst Dominik Och unter Tel. oder per E-Mail unter .

We show an excerpt and a link, and the full text when the source allows it. Brands and logos shown belong to their owners.

Listed on a job portal Nov 12, 2026

Source: Statistisches Bundesamt (Destatis), table; dl-de/by-2-0; StarIn's calculation