Recherche
Atténuation des hallucinations des LLM
Recherche de Mohamed Nejjar visant à rendre les Large Language Models plus fiables, en s'attaquant aux hallucinations dès le niveau du prompt.
Pourquoi cette recherche compte
Les Large Language Models (LLMs) transforment les processus d'entreprise, de l'analyse de documents juridiques au triage médical en passant par l'automatisation du service client. Mais ils présentent une faille critique : l'hallucination. Les LLMs génèrent avec assurance des résultats plausibles qui sont pourtant factuellement faux, incohérents en interne, ou entièrement fabriqués.
La plupart des recherches sur les hallucinations se concentrent sur le modèle lui-même : de meilleures données d'entraînement, des architectures améliorées, des stratégies de décodage contraintes. La recherche de Mohamed Nejjar adopte une approche fondamentalement différente : une stratégie shift-left qui s'attaque au risque d'hallucination dès le niveau du prompt, avant même que la génération ne commence.
Echo : Atténuer le potentiel d'hallucination dans les prompts utilisateur par raffinement itératif guidé par l'IA
Technical University of Munich, School of Software Engineering and AI
L'idée centrale : chaque sortie de LLM implique deux acteurs, le modèle et l'utilisateur. Le prompt de l'utilisateur est une surface d'entrée contrôlable qui influence fortement le risque d'hallucination, une dimension pourtant encore largement sous-étudiée.
Principales contributions de la recherche
Nouvelle taxonomie des hallucinations
Distingue le Prompt Risk (ambiguïté au niveau des tokens, imprécision, présupposés non énoncés) du Meta Risk (problèmes structurels tels que la complexité multi-étapes, la surcharge de portée, les contraintes contradictoires).
Prompt Risk Density (PRD)
Une nouvelle métrique quantitative pour mesurer le potentiel d'hallucination avant la génération. Notation pondérée sur plusieurs catégories de risque, normalisée selon la complexité du prompt.
Pipeline multi-agents
Quatre agents spécialisés (Analyzer, Initiator, Conversation, Preparator) qui collaborent pour analyser, diagnostiquer et affiner les prompts de manière itérative, avec validation humaine (human-in-the-loop).
Impact dans les domaines à forts enjeux
Applicabilité démontrée dans le droit, la santé et la finance, où les hallucinations des LLM ont de réelles conséquences. De meilleurs prompts réduisent l'écart entre les modèles fermés coûteux et les modèles ouverts plus petits.
LLMs for Science : usage pour la génération de code et l'analyse de données
Journal of Software: Evolution and Process (Wiley) · 70+ citations sur Scopus
Coauteur d'un article évalué par les pairs examinant l'usage des Large Language Models dans la recherche et l'analyse de données. Ce travail a été cité plus de 200 fois, contribuant au débat académique sur l'adoption responsable de l'IA dans les workflows scientifiques. Cette recherche a posé les fondations empiriques des travaux ultérieurs de Mohamed Nejjar sur la fiabilité des LLM et l'atténuation des hallucinations.
Philosophie de recherche
La recherche de Mohamed Nejjar se situe à l'intersection de la fiabilité de l'IA et du déploiement pratique en entreprise. L'objectif n'est pas de publier des articles de façon isolée, mais de produire une recherche qui améliore directement la manière dont les organisations déploient les Large Language Models en production : de façon sûre, fiable et à grande échelle.
Cette philosophie s'appuie sur une expérience concrète de construction de systèmes d'IA chez BCG Platinion, Allianz SE et Fraunhofer, des environnements où la fiabilité des LLM n'est pas une curiosité académique mais une exigence opérationnelle.
Questions fréquentes
Qu'est-ce que la Prompt Risk Density (PRD) ?
La Prompt Risk Density est une métrique quantitative introduite dans la recherche Echo de Mohamed Nejjar pour mesurer le potentiel d'hallucination d'un prompt de LLM avant la génération. Elle note un prompt selon des catégories de risque pondérées, telles que l'ambiguïté au niveau des tokens et la complexité structurelle, normalisées par la longueur du prompt, ce qui donne un score de densité unique permettant de repérer les prompts risqués de manière préventive.
En quoi Echo diffère-t-il de l'atténuation des hallucinations côté modèle ?
La plupart des recherches sur les hallucinations ciblent le modèle : de meilleures données d'entraînement, architectures ou stratégies de décodage. Echo adopte à la place une approche shift-left : il analyse et affine le prompt de l'utilisateur avant même que la génération ne commence, à l'aide d'un pipeline multi-agents (Analyzer, Initiator, Conversation, Preparator) avec validation humaine, afin de réduire le risque d'hallucination dès l'étape d'entrée.
Quelle est la différence entre Prompt Risk et Meta Risk dans la taxonomie d'Echo ?
Le Prompt Risk couvre les problèmes au niveau des tokens dans un prompt : ambiguïté, imprécision et présupposés non énoncés. Le Meta Risk couvre les problèmes structurels : complexité multi-étapes, surcharge de portée et contraintes contradictoires. La taxonomie d'Echo sépare les deux afin que chacun puisse être diagnostiqué et atténué indépendamment.
Cette recherche sur l'atténuation des hallucinations est-elle évaluée par les pairs ?
Echo est le mémoire de bachelor de Mohamed Nejjar à la Technical University of Munich (2025). Il s'appuie sur son précédent article évalué par les pairs et coécrit, « LLMs for Science: Usage for Code Generation and Data Analysis », publié dans le Journal of Software: Evolution and Process (Wiley) et cité plus de 200 fois sur Scopus.