Senior AI & Data Engineer | Self-hosted LLM Serving & Data Platforms auf Kubernetes

2/2025 – 8/2026

AUFGABEN
▸ Bereitstellung von Self-Service-Analysen mit AI/BI Genie, dem nativen Chat von Databricks, der Fragen in natürlicher Sprache in SQL umwandelt, der von Haus aus schreibgeschützt ist und unter den jeweiligen Unity-Catalog-Berechtigungen jedes Benutzers läuft
▸ Modellierung einer kuratierten semantischen Ebene – geregelte Ansichten, Metrikdefinitionen und vertrauenswürdige Assets (von Experten validierte Beispielabfragen und Unity-Catalog-Funktionen mit ausführlichen Kommentaren), damit Genie Geschäftsbegriffe der richtigen SQL zuordnet, anstatt zu raten
▸ Durchsetzung der Governance im Unity Catalog – schreibgeschützte SELECT-Berechtigungen, Zeilenfilter und Spaltenmasken, damit Benutzer nur zulässige Daten sehen, sowie vollständige Audit-Protokollierung über Systemtabellen
▸ Erstellung einer Benchmark-Suite mit ca. 300 Geschäftsfragen und Referenzabfragen, um die Antwortgenauigkeit von Release zu Release zu verfolgen und zu verbessern, auf Azure Databricks (EU-Region, Westeuropa) mit einem SQL-Warehouse in passender Größe

ERGEBNIS
Geschäftsanwender bearbeiten ihre routinemäßigen Datenanfragen selbstständig direkt im Chat, anstatt sich beim Datenteam anzustellen, wodurch das Team von Ad-hoc-Anfragen entlastet wird

Data Warehousing, Document Retrieval, It-Governance, Large Language Models, Python, SQL

7/2024 – 1/2025

AUFGABEN
▸ Bereitstellung des Qwen 3.5 Inferenzmodells über vLLM (OpenAI kompatible API) auf Kubernetes mit GPU-Scheduling und im PVC zwischengespeicherten Modellgewichten
▸ Optimierung von vLLM für gleichzeitige Auslastung und Latenz gering zu halten
▸ Bereitstellung einer selbst gehosteten OpenWebUI als Chat-Frontend für den OpenAI-kompatiblen Endpunkt
▸ Zentrale Verwaltung von Zugriffen und Berechtigungen über OIDC bzw. OAuth2 mittels eines selbst gehosteten Keycloak, der mit den Anwendungen föderiert ist
▸ Bereitstellung des GPU Knotens nach Bedarf und Integration in die bestehende Multi Cloud Kubernetes Landschaft, wobei Daten und Inferenz vollständig intern verbleiben.

ERGEBNIS
Das Unternehmen erhält einen internen Assistenten für juristische Recherchen und die Erstellung von Schriftsätzen, vertrauliche Falldaten verlassen niemals die eigene Infrastruktur, und die Antworten werden auch bei gleichzeitiger Nutzung schnell bereitgestellt

Document Retrieval, Front End, Identitätsmanagement, Large Language Models, Machine Learning, React (JavaScript library)

11/2023 – 6/2024

AUFGABEN
▸ Mitgestaltung der Architektur des mandantenfähigen Lakehouse: Dremio (Abfrage-Engine), Apache Airflow zur Orchestrierung von Apache Spark Jobs und JupyterHub (Entwicklungsplattform), ausschließlich Kubernetes
▸ Automatisierung der idempotenten, wiederholbaren Bereitstellung von Dremio über Helm und Terraform, um eine zuverlässige Bereitstellung von Mandanten in großem Maßstab zu gewährleisten
▸ Aufbau des Kunden-Onboarding-Prozesses, Bereitstellung isolierter Self-Service-Mandanten mit hoher Verfügbarkeit und SLA-Garantien
▸ Einrichtung von GitOps-Bereitstellung (ArgoCD, Azure DevOps), Secret-Management (External Secrets) und Observability (Prometheus, Grafana)

ERGEBNIS
STACKIT kann seinen Cloud Kunden ein vollständig verwaltetes Self-Service Data Lakehouse anbieten, ausschließlich auf Kubernetes basierend und mandantenfähig, wobei neue Mandanten zuverlässig und wiederholbar bereitgestellt werden und das System auf Tausende skalierbar ist, mit hoher Verfügbarkeit und SLA

Apache Spark, Cloud (allg.), Data Warehousing, Databricks, DevOps, DevOps (allg.), Infrastrukturarchitektur, Kubernetes, Python, SQL

3/2023 – 10/2023

AUFGABEN
▸ Erfassung der Kundenbedürfnisse und Umsetzung in konkrete technische Anforderungen
▸ Aufbau der Datenerfassung: Abfrage mehrerer Quellen für medizinische Daten, Medikamentendaten und Patientendaten in unterschiedlichen Intervallen über Airflow, Zwischenablage über SFTP und Speicherung in einem Data Lakehouse als Iceberg Tabellen
▸ Modellierung spezialisierter Data Marts in Dremio, die sensible Informationen zurückhielten und detaillierte Zugriffsrechte durchsetzen
▸ Bereitstellung aller Anwendungen (einschließlich FastAPI-Backend) in Kubernetes über Helm mittels CICD Pipelines

ERGEBNIS
Ein auf Stichproben basierendes Verfahren wurde durch eine präzise, landesweite Datenzentrale für den Medikamentenverbrauch ersetzt, sensible Patientendaten werden durch maskierte Datenpools und eine detaillierte Zugriffskontrolle geschützt

Cloud Computing, Cyber Security Engineer, Databricks, DevOps, ETL, Kubernetes, Python

7/2022 – 2/2023

AUFGABEN
▸ Das gesamte System eigenhändig konzipiert und eingerichtet, vollständig als Code und über GitOps bereitgestellt
▸ On-Site Listener eingerichtet, die Geräte Telemetrie über einen VPN-Tunnel an STACKIT übermittelten
▸ Telemetrie Daten (MQTT) durch einen Apache Kafka Cluster gestreamt und über Consumer in einem Iceberg Lakehouse gespeichert, Abfragen mit Trino
▸ Kameraaufnahmen als MP4 mit einer TTL von 72 Stunden im S3-Objektspeicher erfasst
▸ Föderierte Authentifizierung mit Keycloak / OAuth2, Berechtigungen werden zentral festgelegt und an die einzelnen Apps weitergegeben
▸ Einrichtung der Überwachung mit Prometheus und Grafana sowie von Daten-Dashboards in Apache Superset

ERGEBNIS
Das Institut erhält einen sicheren Echtzeit-Überblick über seine verteilten Feldsensoren und Aktoren vollständig Kubernetes-nativ und über GitOps reproduzierbar

Apache Kafka, Cyber Security, Internet of Things (IoT), Kubernetes, Python, VPN

11/2021 – 6/2022

AUFGABEN
▸ Konsolidierung fragmentierter Werbe- und Zielgruppendatenquellen und deren Modellierung im BigQuery-Data-Warehouse
▸ Erstellung von ETL-Pipelines in Airflow (Cloud Composer) zur planmäßigen Erfassung, Bereinigung und Transformation von Kampagnendaten
▸ Bereitstellung mehrstufiger GCP (Google Cloud)-Projektumgebungen (Dev/Stage/Prod) als reproduzierbare „Infrastructure-as-Code“ mit Terraform
▸ Entwicklung eines Python-FastAPI-Dienstes, um BigQuery-Daten für das Analytics-Frontend bereitzustellen
▸ Einrichtung der DevOps-Bereitstellung: GitLab CI, das alle Dienste auf Google Kubernetes Engine (GKE) bereitstellt

ERGEBNIS
Bessere Verwaltung von Anzeigenplatzierungen und Zielgruppenansprache · Werbekunden erhielten einen klaren Einblick in die Werbewirkung und die Budgetleistung pro Kampagne

Big Data, Data Engineer, DevOps, ETL, Git, Google Cloud, Infrastrukturarchitektur, Kubernetes, Python