Senior AI Engineer – Agentic Systems, RAG & LLM-Plattformen
- Verfügbarkeit einsehen
- 0 Referenzen
- 110‐140€/Stunde
- 76131 Karlsruhe
- Umkreis (bis 200 km)
- de | en
- 23.10.2026
- Contract ready
Kurzvorstellung
Geschäftsdaten
Qualifikationen
Projekt‐ & Berufserfahrung
8/2026 – 11/2026
Tätigkeitsbeschreibung
Aufbau eines unternehmensweiten KI-Agenten-Systems für eine Healthcare-Foundation – DSGVO-konform auf Google Cloud mit EU-Datenhaltung. Alleinverantwortlich als Chief Architect und AI Engineer.
• Konzeption und Umsetzung der Gesamtarchitektur eines Multi-Agenten-Systems für die gesamte Organisation
• Eigenes Modell-Hosting mit vLLM (Open-Source-LLMs) auf Google Cloud – sensible Gesundheitsdaten verlassen die EU nicht
• Anbindung von Google Workspace über LangChain und Aufbau eines Knowledge Layers (Neo4j) über den gesamten laufenden Betrieb
• Meeting-Agents: extrahieren Aufgaben aus Transkripten, bearbeiten sie selbstständig und legen Entwürfe mit mehreren Optionen zur menschlichen Entscheidung vor (Human in the Loop)
• E-Mail-Agents für Triage und Antwortentwürfe
• Einrichtung von Claude Code für die Weiterentwicklung der Website inklusive Workshop für das Team
Technologien: Python, vLLM, Open-Source-LLMs, LangChain, Google Cloud, Google Workspace APIs, Agentic AI, Human-in-the-Loop, Knowledge Graph (Neo4j), Claude Code
Datenschutz, Enterprise Architect, Generative KI, Google Cloud, Knowledge Management, Langchain, Large Language Models, Natural Language Processing, Open Source, Prompt Engineering, Python, Software Architecture
6/2026 – 9/2026
Tätigkeitsbeschreibung
Konzeptionierung und Prototyping einer Sales-Intelligence-Schicht mit Vorhersagemodellen für ein Cold-Calling-Unternehmen. Alleinverantwortlich für alle Vorhersagemodelle von Konzept bis Prototyp (Team mit zwei Entwicklern).
• Umstellung der Lead-Listen-Erstellung von manuell auf semi-automatisiert durch Red- und Green-Flag-Bewertung – 5× schnellerer Human Review
• Fit-Prognose von Leads zum jeweiligen Projekt mit CatBoost und Embeddings auf Basis gescrapter Signale (Tech-Stack der Website, LinkedIn-Profile, Mitarbeiterzahl, Umsatz)
• Prognosemodell für die erfolgreichsten Anrufzeiten (CatBoost) auf Basis historischer Calls
• Intelligente Priorisierung der Leads nach Zeitfenster und Projekt-Fit
• Bereitstellung des Prototyps mit Docker auf Hetzner
Technologien: Python, CatBoost, Embeddings, Feature Engineering, Web Scraping, Docker, Hetzner
Data Science, Datenanalyse, Docker, Gradient Boosting, Lead-Management, Machine Learning, Machine Learning Engineer, Predictive Analytics, Python, Statistiken
5/2026 – offen
Tätigkeitsbeschreibung
Entwicklung eines hochpräzisen RAG-Chatbots für die Beschlusslage einer politischen Organisation. Alleinverantwortlich als Chief Architect und Developer.
• Konzeption eines Advanced-RAG-Systems für Beschlussbücher, in denen neue Beschlüsse ältere aufheben und sich teilweise widersprechen
• Modellierung der zeitlichen Gültigkeit von Beschlüssen in einem Temporal Knowledge Graph (Neo4j)
• Hybride Architektur aus Non-autoregressive Predictor und LLM für zuverlässige, nachvollziehbare Antworten
• Vektorsuche in PostgreSQL für semantisches Retrieval
• Systematische Evaluation mit RAGAS – erreichter Score 0,92
• Entwicklung und Betrieb der Web-Anwendung mit React, Vite und Node.js auf Google Cloud mit EU-Datenhaltung
Technologien: Python, LLMs, Temporal Knowledge Graph (Neo4j), PostgreSQL (Vektordatenbank), RAGAS, React, Vite, Node.js, Google Cloud
Document Retrieval, Generative KI, Google Cloud, Large Language Models, Natural Language Processing, Node.Js, Postgresql, Python, Question Answering, React (JavaScript library), Software Architecture, Vektordatenbank
3/2026 – 8/2026
Tätigkeitsbeschreibung
Entwicklung einer Plattform zur automatisierten Erkennung von Verstößen gegen die Mietpreisbremse (PropTech / Legal Tech). Alleinverantwortlich als Produktentwickler, Full-Stack- und Data-Engineer.
• Scraping von ImmoScout24 sowie aller Mietspiegel in Deutschland
• Automatisierter Abgleich von Inseraten mit der ortsüblichen Vergleichsmiete zur Ermittlung von Verstößen
• Entwicklung eigener MCP-Server (Model Context Protocol), mit denen LLMs zu präzisen Mietspiegel-Rechnern werden
Technologien: Python, Web Scraping, Model Context Protocol (MCP), LLMs, Datenmodellierung
Big Data, Data Engineer, Datenanalyse, Datenmodelierung, Full Stack Developer, Generative KI, Large Language Models, Python
1/2026 – offen
Tätigkeitsbeschreibung
Steigerung der AI Readiness von Unternehmen durch praxisnahe Claude-Code-Workshops in München, Karlsruhe, Stuttgart und Amsterdam.
• Konzeption und Durchführung von Workshops für Entwickler, Non-Coder und Business-Teams mit insgesamt 23 Teilnehmenden
• Inhalte: Prompting, Skills, Modellauswahl, Permissions, Konnektoren (Model Context Protocol / MCP), fortgeschrittene Tipps und Tricks
• Vermittlung von Security-Best-Practices für den sicheren Einsatz von KI-Agenten im Unternehmen
Technologien: Claude Code, Model Context Protocol (MCP), Prompt Engineering, Agentic Workflows
Digitale Transformation, Generative KI, Large Language Models, Prompt Engineering, Schulung / Training (IT), Schulungskonzepte
9/2025 – 4/2026
Tätigkeitsbeschreibung
Entwicklung eines KI-gestützten ERP-Systems für eine Eisdielen-Kette (4 Filialen) mit Echtzeit-Bestand, Verbrauchsprognose und KI-Assistent. Lead Developer und Solution Architect (Koordination eines weiteren Entwicklers).
• Konzeption und Entwicklung eines maßgeschneiderten ERP-Systems für einen smarten Filialbetrieb
• Echtzeit-Bestandserfassung durch mobile Erfassungs-App
• Verbrauchsprognose auf Basis von Wetterdaten und lokalen Events, daraus Produktionsplanung und automatische Bestellvorschläge
• Integrierter KI-Assistent für Rezeptplanung und Mitarbeiterfragen mit zugrundeliegender Wissensdatenbank
• Ergebnis: +19 % Umsatz durch behobene Lieferengpässe
Technologien: AWS, Python, Forecasting / Machine Learning, LLMs
Amazon Web Services (AWS), API-Entwickler, Enterprise Resource Planning, Large Language Models, Lead Developer, Machine Learning, Predictive Analytics, Python, Solution Architekt
9/2025 – offen
Tätigkeitsbeschreibung
KI-gestützter, vollautomatisierter Website-Vertrieb – von der Lead-Gewinnung über individuell generierte Websites bis zum KI-Telefonassistenten. Alleinverantwortlich als Produktentwickler und AI Engineer.
• Lead-Gewinnung über Google Maps für Friseursalons, Arztpraxen und Campingplätze
• Scraping von Websites und Social-Media-Profilen mit Bildmodellen zur Klassifikation; bei niedriger Konfidenz Eskalation an multimodale LLMs – kostenoptimierte Modellkaskade
• Individuelle Generierung SEO-optimierter Websites mit LLMs inklusive selbst gebautem Buchungssystem
• Personalisierter Voicebot (Vapi) je Demo-Website, direkt an das Buchungssystem angebunden – ersetzt die Telefonanlage durch einen KI-Assistenten
• Vollständig automatisierte, personalisierte Ansprache über mehrere Kanäle (E-Mail, Social Media, Post)
Technologien: Python, Google Cloud, Google Maps API, Computer Vision, multimodale LLMs, LLM-basierte Website-Generierung, Vapi (Voice AI), SEO
Bilderkennung, Computer Vision, Generative KI, Google Cloud, Large Language Models, Lead-Management, Prompt Engineering, Python, Spracherkennung, Suchmaschinenoptimierung
10/2021 – 11/2025
Tätigkeitsbeschreibung
Aufbau eines End-to-End-Tracking-Systems für Mehrwegverpackungen mit digitalen Zwillingen. Co-Founder & CTO – Führung eines Teams mit zwei Entwicklern sowie Aufbau von Software-, Finanz- und Sales-Team; über 2 Mio. € Kapital eingeworben.
• Digitale Zwillinge für 30.000 Mehrwegbehälter über eindeutige IDs – RFID, Barcode, DataMatrix und QR-Codes
• Entwicklung einer eigenen Scanning-App mit React Native
• Event-Driven-Architektur auf Azure (serverless) mit Azure-Event-Diensten, entworfen mit Event Storming
• Shop-System-Plugins für Shopify, Shopware, OXID und WooCommerce zur nahtlosen Tracking-Integration beim Händler
• Eigene Tracking-API über Azure API Management mit OpenAPI-Spezifikation – direkte ERP-Anbindung der Kunden bei niedrigen Latenzzusagen
• Webportal mit Dashboards für Kunden und Partner
• Konzeption eines digitalen Pooling-Systems gemeinsam mit Paketdienstleistern, GS1 und großen Onlinehändlern
Technologien: Microsoft Azure (Serverless, Event-Dienste, API Management), OpenAPI, Event-Driven Architecture, React Native, TypeScript, RFID, GS1, Digital Twins, Shopify, Shopware, OXID, WooCommerce
API-Entwickler, Cloud Computing, E-Commerce, Internet of Things (IoT), Microsoft Azure, Mobile Application Development, Projektleitung / Teamleitung (IT), React Native, Shopify (allg.), Shopware, Software Architecture, Typescript
2/2019 – 10/2019
Tätigkeitsbeschreibung
Implementierung eines weltweit erstmaligen Explainable-ML-Algorithmus für eine Privatbank in der Schweiz. Lead Developer im Dreierteam – verantwortlich für die gesamte Entwicklung.
• Eigene Implementierung von SHAP in Java als Grundlage für erklärbare Modellvorhersagen
• Integration in die bestehende On-Premises-Infrastruktur der Bank
• Umsetzung unter den Anforderungen eines hochregulierten Marktes
• Ergebnis: +284 % Adoption des Vorhersagemodells durch die Fachanwender
Technologien: Java, Python, SHAP, Explainable AI, Machine Learning, On-Premises
Data Science, Java (allg.), Lead Developer, Machine Learning, Predictive Analytics, Python, Statistiken
Ausbildung
Karlsruhe
Karlsruhe
Über mich
Ich bin Senior AI Engineer und Mathematiker mit Fokus auf Statistik (M.Sc., KIT) und über 7 Jahren Erfahrung in Machine Learning, Data Science und Softwareentwicklung. Meine Stärke ist die End-to-End-Verantwortung: Ich konzipiere die Architektur, entwickle die Lösung, bringe sie in Produktion und betreibe sie – in vielen Projekten als alleinverantwortlicher Chief Architect.
SCHWERPUNKTE
- Agentic AI: unternehmensweite Multi-Agenten-Systeme für Meetings und E-Mail-Triage, mit Human-in-the-Loop
- Advanced RAG: Temporal Knowledge Graphs (Neo4j), hybride Architekturen aus Predictor und LLM, Vektorsuche in PostgreSQL
- LLM-Evaluation: messbare Qualität mit RAGAS und eigenen Human-Review-Pipelines
- Model Serving: Self-Hosting von Open-Source-LLMs mit vLLM, On-Premises oder in der EU-Cloud
- Model Context Protocol: eigene MCP-Server, die LLMs mit Fachsystemen verbinden
- Klassisches ML: Explainable AI (SHAP), Tree-based Predictions, Forecasting
AUSGEWÄHLTE ERGEBNISSE
- Privatbank Schweiz: weltweit erstmalige Implementierung von SHAP in Java, On-Premises – +284 % Adoption des Vorhersagemodells im hochregulierten Umfeld
- Politische Organisation: hochpräziser RAG-Chatbot für Beschlussbücher, in denen neue Beschlüsse alte aufheben – RAGAS-Score 0,92
- Healthcare-Foundation: KI-Agenten-System für die gesamte Organisation mit eigenem vLLM-Hosting und Knowledge Layer über Google Workspace, DSGVO-konform auf Google Cloud
- Eisdielen-Kette: KI-gestütztes ERP mit Echtzeit-Bestand, Verbrauchsprognose aus Wetter und Events – +19 % Umsatz durch behobene Lieferengpässe
- Sales Intelligence: Fit- und Zeitprognosen mit CatBoost und Embeddings – 5× schnellerer Review von Lead-Listen
- Automatisierter Website-Vertrieb: Kaskade aus Bildmodellen und multimodalen LLMs, LLM-generierte Websites mit Voicebot (Vapi) und eigenem Buchungssystem
UNTERNEHMERISCHER HINTERGRUND
Als Co-Founder & CTO von hey circle habe ich ein Tracking-System für 30.000 Mehrwegbehälter mit digitalen Zwillingen aufgebaut – Event-Driven-Architektur auf Azure, eigene Tracking-API mit niedrigen Latenzzusagen, Plugins für Shopify, Shopware, OXID und WooCommerce – und über 2 Mio. € Kapital eingeworben. Ich denke deshalb nicht nur in Technologie, sondern in Business Value, Kosten und Time-to-Market.
ARBEITSWEISE
Ich übersetze fachliche Anforderungen in belastbare Architekturen und spreche mit Fachbereich, Management und Entwicklungsteam gleichermaßen. Sensible Daten behandle ich mit Sorgfalt: Erfahrung in Banken, Healthcare und Politik, DSGVO-konforme Lösungen mit EU-Datenhaltung. Als Trainer für Claude Code habe ich Entwickler, Non-Coder und Business-Teams in vier Städten fit für KI-gestütztes Arbeiten gemacht.
Einsatz remote oder vor Ort in Karlsruhe, auf Deutsch oder Englisch.
Profil und Projektliste: -Hyperlink entfernt-
Weitere Kenntnisse
Python, TypeScript, C++, C#, Java
AI / GENERATIVE AI
LLMs (Claude, OpenAI, Open-Source-Modelle), Agentic AI, Multi-Agenten-Systeme, Advanced RAG, Temporal Knowledge Graphs, Neo4j, LangChain, Model Context Protocol (MCP, eigene Server), multimodale LLMs, Bildklassifikation, Voicebots (Vapi), Prompt Engineering, Context Engineering, Claude Code
LLM-EVALUATION & QUALITÄTSSICHERUNG
RAGAS, Evaluation-Frameworks, Human-Review-Pipelines, Human-in-the-Loop, Modellkaskaden mit Konfidenz-Schwellen
MODEL SERVING
vLLM, Self-Hosting von Open-Source-LLMs, GPU-Inferenz, On-Premises-Deployment
MACHINE LEARNING & STATISTIK
Explainable AI (SHAP), Gradient Boosting (CatBoost), Embeddings, Forecasting, Zeitreihen, Reinforcement Learning, statistische Modellierung, Feature Engineering
CLOUD & INFRASTRUKTUR
Google Cloud, AWS, Microsoft Azure (Serverless, Event-Driven Architecture), Hetzner, On-Premises, Terraform, Bicep, Docker, GitHub Actions, CI/CD, Cloudflare Workers
MESSAGING & APIS
Azure Event Services, Google Pub/Sub, Azure API Management, OpenAPI, REST-APIs mit niedrigen Latenzanforderungen, ERP-Anbindungen
DATA
PostgreSQL inkl. Vektorsuche, Vektordatenbanken, Data Lakes, Web Scraping und Crawling in großem Maßstab, Datenintegration
FRONTEND & APPS
React, Vite, Node.js, React Native, SEO-optimierte Websites
INTEGRATIONEN
Google Workspace, Shopify, Shopware, OXID, WooCommerce, Google Maps API, Buchungssysteme, Schichtplanung (Shiftbase)
METHODEN
Event Storming, Domain-Driven Design, Digital Twins, agile Produktentwicklung, Architektur- und Technologieberatung, Make-or-Buy-Bewertung
BRANCHEN
Banken, Healthcare, Politik / Öffentlicher Sektor, Logistik und Kreislaufwirtschaft, Gastronomie und Food Retail, Vertrieb, PropTech
TRAINING & ENABLEMENT
Claude-Code-Workshops für Entwickler, Non-Coder und Business-Teams: Prompting, Skills, Modellauswahl, Permissions, Konnektoren (MCP), Security
AUSBILDUNG
M.Sc. Mathematik, Karlsruher Institut für Technologie (KIT), Schwerpunkt Statistik
B.Sc. Mathematik, Karlsruher Institut für Technologie (KIT), Schwerpunkt Statistik
SPRACHEN
Deutsch (Muttersprache), Englisch (verhandlungssicher)
Persönliche Daten
- Deutsch (Muttersprache)
- Englisch (Fließend)
- Europäische Union
- Vereinigte Staaten von Amerika
Kontaktdaten
Nur registrierte PREMIUM-Mitglieder von freelance.de können Kontaktdaten einsehen.
Jetzt Mitglied werden