Data Scientist - NLP expert

6/2025 – offen

Instruction-Tuning für LLMs unter Einbeziehung von Prompt-Engineering, Retrieval-Augmentation und hierarchischem Instruction-Tuning zur Verbesserung der Klassifikationsleistung bei Multi-Label-Narrativen zu Klimadesinformation. Feinabstimmung des DeBERTa-NLI-Modells für die binäre Erkennung von Narrativen und Steigerung der Klassifikationsgenauigkeit bei unausgewogenen Datensätzen. Generierung von Embeddings für LLMs und Nutzung der Kosinus-Ähnlichkeit zur Identifizierung von Sätzen, die mit Narrativen in einer Liste übereinstimmen; Einsatz von Few-Shot-Prompting zur Zuordnung von Behauptungen zu Narrativ-Listen.

Large Language Models, Machine Learning, Named-entity recognition (NER), Prompt Engineering, Reinforcement Learning, Scikit-learn, Text-Extraction

3/2023 – 2/2024

Verwendung von Jaccard-Index und hierarchischem Clustering zur Gruppierung deutscher Sätze. Named Entity Recognition mit CRF. Feinabstimmung des BERT-Modells für Named Entity Recognition. Für Relation Extraction wurde das vortrainierte Roberta-base-Modell auf dem DFKI-Cluster feinabgestimmt. Vereinfachung deutscher Sätze durch Prompting des Llama-Modells.

Prompt Engineering

3/2022 – 8/2022

Modellierung von ordinalen paarweisen Vergleichen mit Bindungen. Erstellung aggregierter Datensätze basierend auf mehreren tausend Datensätzen mit Python. Anwendung von Multi-Klassen-Klassifizierung, Regression, neuronalen Netzwerkmodellen und Learning-to-Rank-Modellen auf den aggregierten Datensätzen in Python und R. Steigerung der durchschnittlichen Genauigkeit der Modelle von 65% auf 85%.

Python, R (Programmiersprache)