Senior DevOps and Cloud Engineer

2/2024 – offen

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Resourcenbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch DataLoaders) über Training und Evaluation bis hin zu Model Registry und Endpoint Deployment.
Integration von MLflow für experiment tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung im Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung und Bereitstellung von ML Endpoints, Absicherung über OAuth 2.0
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log Zentralisierung und Kostenüberwachung
• Automatisierung der Infrastruktur-Provisionierung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
Analyse, Architektur einer Softwarelösung um effizient Massendaten (>3000 Nachrichten/Sek.) zu verarbeiten (market data store)
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über die MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung Forwarding von Nachrichten an Read Model Queues Aufbau von Read Models für UI Anzeige in MongoDB
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB
• Aufbau eines Angular Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege
• Agentic coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn)

DevOps, Java (allg.), Kubernetes, MLOps, Pytorch, Spring Framework

3/2023 – 2/2024

• Architektur und Design einer DevOps / Deployment Plattform
• Aufbau einer DevOps und Software Deployment Platform basierend auf Azure AKS und AWS ECS/EKS, Gitlab Enterprise, Ansible
• Migration von VMWare Workloads zu Azure AKS und AWS EKS
• Konfiguration und Deployment von Anwendungen mit Microsoft Entra (Entra App registrations, app roles, published Web APIs mit OAuth authentication und authorization)
• Entwicklung von Typescript Backend Services (Serverless)
• GraphQL-API-Entwicklung gegen Neo4J Datenbank
• Scripting von Ansible Playbooks und Inventory-Einrichtung für VMWare-managed virtuelle Maschinen
• Automatisiertes Deployment von Playbooks über Ansible Control Tower (OpenSource Variante AWX) für Unix Instanzen
• Einrichtung von GitOps über GitLab, Entwicklung von GitLab Pipelines
• Infrastrukturdeployment auf Azure mittels Pulumi und Terraform
• Agile team work, SCRUM

Graphql, Typescript, Ansible, Microsoft Azure, Amazon Web Services (AWS)

11/2021 – 3/2023

• Aufbau und Betrieb einer unternehmensweiten MLOps-Infrastruktur auf Azure Databricks zur Automatisierung des gesamten ML-Lifecycles von Datenverarbeitung bis Modellbereitstellung.
• Implementierung skalierbarer ETL-/ELT-Pipelines mit Airflow und Databricks zur kontinuierlichen Versorgung von Trainings- und Inferenzpipelines mit bereinigten Risikodaten.
• Automatisierung von Trainings-, Evaluations- und Deployment-Pipelines mit MLflow, Azure DevOps und Databricks Workflows inklusive automatischer Modellregistrierung, Versionierung und Promotion zwischen Stages.
• Containerisierung und Bereitstellung trainierter Modelle als skalierbare REST-/gRPC-Services über Azure ML Endpoints und Kubernetes; Integration in produktive Risiko- und Sicherheitsplattformen.
• Einrichtung von Infrastructure-as-Code-Provisionierung mit Terraform, Helm und Kustomize für reproduzierbare Deployments, inklusive Monitoring-, Logging- und Security-Komponenten.
• Implementierung von End-to-End-Monitoring mit Prometheus, Grafana und Elastic Stack (Beats, Logstash) zur Nachverfolgung von Pipeline-Performance, Modellmetriken und Systemstatus.
• Aufbau einer sicheren Authentifizierungs- und Zugriffsinfrastruktur (Keycloak, OAuth 2.0, OIDC, JWT) für APIs und interne MLOps-Services.
• Entwicklung und Integration von .NET Core Microservices zur Bereitstellung von Modell-APIs und Service-Orchestrierung im Produktivbetrieb.
• Konzeption und Umsetzung von CI/CD-Pipelines (Azure DevOps, GitLab CI) für automatisiertes Testing, Container-Builds, Release-Management und Deployment auf Multi-Cloud-Umgebungen.
• Monitoring, Logging und Incident-Handling für produktive Machine-Learning-Workloads in On-Premises- und Cloud-Umgebungen.
• Zentrale SSH- und Zugriffsverwaltung über Teleport zur Sicherstellung von Compliance und Auditfähigkeit.
• Agile Teamarbeit im SCRUM-Prozess mit enger Abstimmung zwischen Data Engineering, MLOps und DevOps.

Databricks, ETL, ETL-Entwickler, MLOps