devjobs.de

Large Language Model Operations Engineer

Dr. Dienst & Partner Gmbh & Co. Kg · Frankfurt am Main | Deutschland · Onsite

Gehalt auf Anfrage

Gefunden am 19.05.2026

Match

84%

Fit in Skills, Kultur und Entwicklungspfad.

Beschreibung

Job Zusammenfassung In dieser Rolle entwickelst du LLM-basierte Anwendungen, verbindest bestehende IT-Systeme mit AI-Ökosystemen und optimierst Prozesse unter Berücksichtigung von Datenschutz und Compliance. Job Zusammenfassung In dieser Rolle entwickelst du LLM-basierte Anwendungen, verbindest bestehende IT-Systeme mit AI-Ökosystemen und optimierst Prozesse unter Berücksichtigung von Datenschutz und Compliance. Deine Rolle im Team Dr. Dienst & Partner ist Teil einer erfolgreichen Gruppe von Wirtschaftsprüfungs- und Steuerberatungsgesellschaften. Dazu gehören außerdem eine Anwaltskanzlei, IT-Beratungs- sowie eine Consultinggesellschaft. Mehr als 300 Kolleginnen und Kollegen arbeiten bei uns zusammen an spannenden nationalen und internationalen Mandaten. Du kannst dich auf einen sicheren Arbeitsplatz mit abwechslungsreichen Aufgaben freuen. Ein gutes Gehalt, tolle Benefits und individuelle Weiterbildungsangebote sind für uns selbstverständlich. Wir setzen zunehmend auf KI-gestützte Lösungen, um interne Prozesse effizienter zu gestalten und unseren Mandanten einen zeitgemäßen Service zu bieten. Für die weitere Umsetzung unserer KI-Strategie suchen wir am Standort Koblenz eine technisch versierte Persönlichkeit, die Large-Language-Model-basierte Anwendungen zuverlässig entwickelt, betreibt und weiterdenkt. Du entwickelst, betreibst und optimierst eigenständig unsere LLM-basierten Anwendungen, die aktuell an Azure OpenAI und Google Vertex angebunden sind. Du betreibst unser AI-Ökosystem, das auf OpenWebUI basiert und entwickelst es weiter. Unsere bestehenden IT- und Datenlandschaften verknüpfst du mit LLM-Systemen. Relevante Use Cases im Kanzleiumfeld erkennst du frühzeitig und treibst ihre Umsetzung voran. Datenschutz, Compliance und Governance behältst du jederzeit im Blick. Unsere Erwartungen an dich Ausbildung Du hast Dein Studium mit Schwerpunkt KI oder AI erfolgreich abgeschlossen oder eine vergleichbare Qualifikation und bereits Erfahrungen im genannten Aufgabengebiet. Qualifikationen Sehr gute Python-Skills und ein Verständnis für skalierbare Architekturen gehören für dich dazu. Im Umgang mit APIs, Modellen von Anthropic oder OpenAI und Vektordatenbanken fühlst du dich sicher. Kenntnisse in Workflow-Automatisierung - z.B. durch n8n oder ähnliche Tools - unterstützen dich bei der Umsetzung komplexer Prozesse. Digitalisierung im Kanzleiumfeld interessiert dich, auch wenn du die Branche noch nicht kennst. Du überzeugst nicht nur mit deinem technischen Verständnis, sondern auch durch freundliches Auftreten, Kommunikationsstärke und Teamwork. Dein Ziel ist es, Technik für Menschen verständlich zu machen. Du kannst mindestens auf C1-Level mündlich und schriftlich Deutsch sprechen. Du zeigst Einsatzbereitschaft, bist flexibel, hast eine schnelle Auffassungsgabe und packst mit an, statt abzuwarten. Neuen, abwechslungsreichen Herausforderungen stellst du dich gerne und bildest dich stetig fort. Du verfügst über ein analytisches Denkvermögen, eine präzise Arbeitsweise und eine hohe Vertrauenswürdigkeit. Unser Angebot Dich erwarten vielfältige verantwortungsvolle Aufgaben in einem offenen und freundlichen Team sowie eine partnerschaftliche Zusammenarbeit über alle Ebenen und flache Hierarchien. Eine leistungsgerechte Vergütung mit zusätzlichen Sozialleistungen darfst Du voraussetzen. Du erhältst die Möglichkeit, neue KI-Use-Cases selbst vorzuschlagen und bis zur Umsetzung zu verantworten. Dabei steht Dir eine moderne Entwicklungsumgebung mit Cloud-Ressourcen zur Verfügung. Wir bieten dir Perspektiven zur erfolgreichen beruflichen Weiterqualifizierung sowie einen attraktiven Arbeitsplatz mit moderner IT-Infrastruktur in einem barrierefreien "Green Building" mit Parkmöglichkeiten. Verschiedene kostenlose Getränke, Obst und eine Massage pro Monat gehören ebenfalls zu unseren Benefits. Dein zukünftiger Arbeitsplatz befindet sich in attraktiver Lage umgeben von mehreren Kantinen, Bäcker, Einkaufszentren etc. Du kannst an echten Kanzlei-Prozessen arbeiten und aktiv zur Veränderung unserer Prozesse beitragen. Themen mit denen du dich im Job beschäftigst AI Metadaten Level: Erfahren Job Feld: Software, Data Anstellung: Teilzeit / Vollzeit Vertragsart: Unbefristetes Dienstverhältnis Arbeitsmodell: Onsite Unternehmenstyp: Etablierte Firma Branche: Internet, IT, Telekom, Recht, Steuern, Wirtschaft Ort: Frankfurt am Main | Deutschland

Tech Stack

AzurePython

Warum passt du zu dieser Stelle?

Fit technisch: Stark auf Backend und API-Architektur.

Gaps: Fehlende Tool-Erfahrung in 1-2 Schlüsselbereichen.

Success-Wahrscheinlichkeit: Hoch bei schneller Einarbeitung.