Forschung
Minderung von LLM-Halluzinationen
Mohamed Nejjars Forschung zu zuverlässigeren Large Language Models, die Halluzinationen bereits auf Prompt-Ebene angeht.
Warum diese Forschung wichtig ist
Large Language Models (LLMs) verändern Unternehmensprozesse grundlegend, von der juristischen Dokumentenanalyse über die medizinische Ersteinschätzung bis zur automatisierten Kundenkommunikation. Doch sie haben eine entscheidende Schwäche: Halluzination. LLMs erzeugen mit großer Zuversicht plausibel klingende Ausgaben, die faktisch falsch, in sich widersprüchlich oder vollständig erfunden sind.
Die meiste Halluzinationsforschung konzentriert sich auf die Modellseite: bessere Trainingsdaten, verbesserte Architekturen, eingeschränkte Decoding-Strategien. Mohamed Nejjars Forschung verfolgt einen grundlegend anderen Ansatz: eine Shift-Left-Strategie, die das Halluzinationsrisiko bereits auf Prompt-Ebene angeht, noch bevor die Generierung beginnt.
Echo: Minderung von Halluzinationspotenzial in Nutzer-Prompts durch KI-gestützte iterative Verfeinerung
Technical University of Munich, School of Software Engineering and AI
Die zentrale Erkenntnis: Jede LLM-Ausgabe hat zwei Akteure, das Modell und den Nutzer. Der Prompt des Nutzers ist eine kontrollierbare Eingabefläche, die das Halluzinationsrisiko erheblich beeinflusst, doch diese Dimension ist bislang weitgehend unerforscht.
Zentrale Forschungsbeiträge
Neuartige Halluzinations-Taxonomie
Unterscheidet zwischen Prompt Risk (Mehrdeutigkeit auf Token-Ebene, Vagheit, unausgesprochene Voraussetzungen) und Meta Risk (strukturelle Probleme wie Multi-Hop-Komplexität, Umfangsüberladung, widersprüchliche Vorgaben).
Prompt Risk Density (PRD)
Eine neuartige quantitative Metrik zur Messung des Halluzinationspotenzials vor der Generierung. Gewichtete Bewertung über Risikokategorien hinweg, normalisiert nach Prompt-Komplexität.
Multi-Agenten-Pipeline
Vier spezialisierte Agenten (Analyzer, Initiator, Conversation, Preparator), die zusammenarbeiten, um Prompts zu analysieren, zu diagnostizieren und iterativ mit Human-in-the-Loop-Validierung zu verfeinern.
Wirkung in kritischen Bereichen
Nachgewiesene Anwendbarkeit in Recht, Gesundheitswesen und Finanzwesen, wo LLM-Halluzinationen reale Konsequenzen haben. Bessere Prompts verringern die Lücke zwischen teuren Closed-Source- und kleineren Open-Source-Modellen.
LLMs for Science: Einsatz für Codegenerierung und Datenanalyse
Journal of Software: Evolution and Process (Wiley) · 70+ Zitationen auf Scopus
Ko-Autor eines peer-reviewten Papers, das den Einsatz von Large Language Models in Forschung und Datenanalyse untersucht. Die Arbeit wurde über 200 Mal zitiert und trägt zum akademischen Diskurs über verantwortungsvolle KI-Einführung in wissenschaftlichen Workflows bei. Diese Forschung legte die empirische Grundlage für Mohamed Nejjars anschließende Arbeit zu LLM-Zuverlässigkeit und Halluzinationsminderung.
Forschungsphilosophie
Mohamed Nejjars Forschung bewegt sich an der Schnittstelle von KI-Zuverlässigkeit und praktischem Unternehmenseinsatz. Das Ziel ist nicht, Papers isoliert zu veröffentlichen, sondern Forschung zu betreiben, die direkt verbessert, wie Organisationen Large Language Models produktiv einsetzen: sicher, zuverlässig und im großen Maßstab.
Diese Philosophie ist geprägt von praktischer Erfahrung im Aufbau von KI-Systemen bei BCG Platinion, Allianz SE und Fraunhofer, Umgebungen, in denen LLM-Zuverlässigkeit keine akademische Spielerei, sondern eine betriebliche Notwendigkeit ist.
Häufig gestellte Fragen
Was ist Prompt Risk Density (PRD)?
Prompt Risk Density ist eine quantitative Metrik aus Mohamed Nejjars Echo-Forschung zur Messung des Halluzinationspotenzials eines LLM-Prompts vor der Generierung. Sie bewertet einen Prompt anhand gewichteter Risikokategorien, etwa Mehrdeutigkeit auf Token-Ebene und strukturelle Komplexität, normalisiert nach Prompt-Länge, und liefert so einen einzigen Dichtewert, der riskante Prompts frühzeitig kennzeichnet.
Wie unterscheidet sich Echo von modellseitiger Halluzinationsminderung?
Die meiste Halluzinationsforschung setzt am Modell an: bessere Trainingsdaten, Architekturen oder Decoding-Strategien. Echo verfolgt stattdessen einen Shift-Left-Ansatz: Es analysiert und verfeinert den Prompt des Nutzers, bevor die Generierung überhaupt beginnt, mithilfe einer Multi-Agenten-Pipeline (Analyzer, Initiator, Conversation, Preparator) mit Human-in-the-Loop-Validierung, um das Halluzinationsrisiko bereits auf Eingabeebene zu reduzieren.
Was unterscheidet Prompt Risk von Meta Risk in Echos Taxonomie?
Prompt Risk umfasst Probleme auf Token-Ebene in einem Prompt: Mehrdeutigkeit, Vagheit und unausgesprochene Voraussetzungen. Meta Risk umfasst strukturelle Probleme: Multi-Hop-Komplexität, Umfangsüberladung und widersprüchliche Vorgaben. Echos Taxonomie trennt beide, sodass jedes unabhängig diagnostiziert und gemindert werden kann.
Ist diese Forschung zur Halluzinationsminderung peer-reviewt?
Echo ist Mohamed Nejjars Bachelorarbeit an der Technical University of Munich (2025). Sie baut auf seinem früheren peer-reviewten, mitverfassten Paper „LLMs for Science: Usage for Code Generation and Data Analysis“ auf, veröffentlicht im Journal of Software: Evolution and Process (Wiley) und über 200-mal auf Scopus zitiert.