freiberufler Applied AI Engineer – RAG, Vector Search, LLM-Backend (Python) auf freelance.de

Applied AI Engineer – RAG, Vector Search, LLM-Backend (Python)

zuletzt online vor 6 Tagen
  • 85‐100€/Stunde
  • 81377 München
  • Weltweit
  • de  |  en  |  ru
  • 15.10.2026
  • Contract ready

Kurzvorstellung

Ich baue produktionsreife RAG- und LLM-Backends in Python: von Ingest und Chunking über Embeddings bis zu hybrider Suche (Dense + Sparse, RRF) auf PostgreSQL mit Vektorsuche, inklusive Streaming-Ausgabe (SSE). Aktuell betreibe ich ein selbst entwickeltes RAG-System über Video- und Textinhalte mit 400+ Stunden verarbeiteten Transkripten. Retrieval-Qualität messe ich systematisch (Recall@k, Vergleich TF-IDF vs. Dense). Kunden biete ich Wissensdatenbanken, semantische Suche und LLM-Integrationen, die messbar funktionieren.

Geschäftsdaten

 Freiberuflich
 Steuernummer bekannt

Qualifikationen

  • Agentic AI
  • Amazon Web Services (AWS)3 J.
  • Continuous Integration3 J.
  • Docker3 J.
  • Generative KI3 J.
  • Git3 J.
  • JavaScript7 J.
  • Langchain3 J.
  • Large Language Models3 J.
  • Mobile Application Development3 J.
  • Natural Language Processing3 J.
  • Node.Js7 J.
  • Postgresql7 J.
  • Python3 J.
  • React (JavaScript library)7 J.
  • React Native3 J.
  • Representational State Transfer (REST)7 J.
  • Retrieval Augmented Generation
  • Text-Extraction3 J.
  • Typescript3 J.
  • Vektordatenbank3 J.

Projekt‐ & Berufserfahrung

Client-Entwicklung – Atlandex (React-Web-App, React-Native-App, Chrome-Extension)
Atlandex (eigenes Produkt), München
1/2023 – offen (3 Jahre, 11 Monate)
IT & Entwicklung
Tätigkeitszeitraum

1/2023 – offen

Tätigkeitsbeschreibung

Entwicklung von drei Client-Oberflächen für dasselbe AI-Backend von Atlandex (Backend siehe Projekt "Gründer & AI/Python Engineer – Atlandex"):

- React-Web-App
- React-Native-App (Expo), veröffentlicht bei Google Play
- Chrome-Extension, veröffentlicht im Chrome Web Store

Alle drei Clients nutzen dieselbe AI-API.

Eingesetzte Qualifikationen

Mobile Application Development, Node.Js, Typescript, JavaScript, React (JavaScript library), React Native

Gründer & AI/Python Engineer – Atlandex (RAG-/NLP-Produkt)
Atlandex (eigenes Produkt), München
1/2023 – offen (3 Jahre, 11 Monate)
IT & Entwicklung
Tätigkeitszeitraum

1/2023 – offen

Tätigkeitsbeschreibung

Gründer und alleiniger Engineer eines produktiven RAG-/NLP-Produkts für lange Videoinhalte (Ingest, Embedding, Retrieval).

- Pipeline für unstrukturierten Text: über 400 Stunden Video-Transkript, gechunkt an Kapitelgrenzen mit Token-Budget-Aufteilung
- Produktive OCR-Pipeline: Ein Vision-Modell liest Text aus Bildern, Background-Jobs auf Heroku strukturieren ihn und speichern ihn in PostgreSQL
- LLMs und Embedding-Modelle hinter einer gemeinsamen Provider-Schnittstelle (DeepInfra, AWS Bedrock); Vektoren in PostgreSQL, FAISS zur Abfragezeit
- Retrieval-Evaluation mit 22 gelabelten Anfragen: Dense Retrieval (FAISS) lag zunächst hinter der TF-IDF-Baseline (Recall@3 0,93 vs. 0,99; nDCG@3 Dense 0,88); erst Reciprocal Rank Fusion (RRF) beider Verfahren erreichte Recall@3 1,00
- Flask-APIs für Retrieval und Extraktion (Query, Snippet-Seek, SSE-Streaming): Snippet-Seek p95 von 17,0 s auf 4,5 s gesenkt durch indizierte PostgreSQL-Abfragen; Time-to-first-term 1,7 s (p50)
- Parallelisierte Extraktion pro Kapitel (ThreadPoolExecutor): p50 von 30,0 s auf 14,8 s bei ca. 0,0001 $ pro Fenster
- pytest und GitHub Actions bei jedem PR; Deployment mit Gunicorn und RQ/Redis auf Heroku, Backend als Docker-Image paketiert
- 2026: atlandex-mcp entwickelt und als Open Source veröffentlicht: MCP-Server (Python MCP SDK 2.x) mit drei Read-only-Retrieval-Tools und zeitgestempelten Zitaten; 78 Tests, CI. Überarbeitete Tool-Beschreibungen und Output-Schema hoben den Score von Claude Sonnet in einer Live-Agent-Evaluation von 6/10 auf 10/10. github.com/feynmanish/atlandex-mcp
- 2026: atlandex-agent entwickelt: LangGraph-Tool-Calling-Agent mit Router, Citation-Check, Langfuse-Tracing und LLM-as-Judge-Evaluation (validiert gegen Referenz-Labels, κ 0,60): richtige Passage bei 91 % der Fragen zitiert; Trace-basierte Fixes senkten unbelegte Sätze von 42 % auf 16 %. Multi-Agent-Variante (Supervisor + Search- und Fact-Checking-Agent) nach vorab festgelegten Regeln verglichen: kein Qualitätsgewinn bei ca. doppelten Kosten, daher bleibt der Single-Agent. github.com/feynmanish/atlandex-agent

Eingesetzte Qualifikationen

Langchain, React (JavaScript library), React Native, Amazon Web Services (AWS), Continuous Integration, Docker, Document Retrieval, Generative KI, Git, Large Language Models, Natural Language Processing, Postgresql, Python, Representational State Transfer (REST), Text-Extraction, Vektordatenbank

Software Engineer – Geodaten-Webanwendung (eigenes Produkt)
Eigenprojekt, München
1/2019 – 12/2023 (5 Jahre)
IT & Entwicklung
Tätigkeitszeitraum

1/2019 – 12/2023

Tätigkeitsbeschreibung

Konzeption und Entwicklung einer Geodaten-Webanwendung als eigenes Produkt auf dem PERN-Stack: React-Frontend, Node.js/Express-Backend mit REST-APIs, PostgreSQL mit PostGIS. Geocoding und Google Maps für Routenspeicherung und Standortempfehlungen. Erste Version 2019, live seit 2021.

Eingesetzte Qualifikationen

Full-Stack, JavaScript, Node.Js, Postgresql, React (JavaScript library), Representational State Transfer (REST)

Ausbildung

Studium Theoretische und Mathematische Physik
(ohne Abschluss)
TUM / LMU München
2016
München

Über mich

Schwerpunkt: Retrieval-Systeme und LLM-Backends, die in Produktion laufen – nicht nur als Prototyp.

Was ich in meinem aktuellen Eigenprojekt gebaut habe und betreibe:
- Ingest-Pipeline für lange Video- und Textinhalte: Transkription, eigenes Chunking, Embeddings über eine austauschbare Provider-Schicht, Timestamp-genaue Suche in den Quellen
- Hybride Suche auf PostgreSQL: Vektorsuche kombiniert mit lexikalischer Suche über Reciprocal Rank Fusion
- Systematische Retrieval-Evaluation mit eigenem Testset: Dense Retrieval verlor zunächst gegen eine TF-IDF-Baseline, erst die Fusion erreichte Recall@3 von 1,0 – solche Messungen sind für mich Grundlage jeder Architekturentscheidung
- Vision-Pipeline: Text aus Bildern per Vision-Modell extrahieren, strukturieren und speichern, als Background-Jobs
- Streaming-Antworten per SSE, parallelisierte Verarbeitung, Backend containerisiert mit Docker

Hintergrund: seit 2019 Full-Stack-Entwicklung eigener Produkte, die produktiv im Einsatz sind. Ich arbeite remote oder vor Ort, auf Deutsch und Englisch.

Projekte, bei denen ich unterstützen kann: RAG-Wissensdatenbanken, semantische Suche über interne Dokumente, Evaluation und Verbesserung bestehender Retrieval-Pipelines, LLM-Integration in bestehende Backends.

Weitere Kenntnisse

TypeScript, React, React Native, Chrome-Extension-Entwicklung, Flask, REST-APIs, Server-Sent Events, AWS (S3, Bedrock), Heroku, Docker, Geocoding und Geodaten-Webanwendungen, Background-Job-Verarbeitung, Prompt Engineering, Express, PostGIS, FAISS, LangChain, OCR mit Vision-Modellen, pytest, GitHub Actions (CI/CD), Gunicorn, RQ/Redis, Google Cloud (Vision API, Maps-/Geocoding-APIs), DeepInfra, Qwen3-Embedding

Persönliche Daten

Sprache
  • Deutsch (Muttersprache)
  • Englisch (Muttersprache)
  • Russisch (Muttersprache)
Reisebereitschaft
Weltweit
Arbeitserlaubnis
  • Europäische Union
Profilaufrufe
66
Berufserfahrung
7 Jahre und 10 Monate (seit 01/2019)

Kontaktdaten

Nur registrierte PREMIUM-Mitglieder von freelance.de können Kontaktdaten einsehen.

Jetzt Mitglied werden