Fraunhofer Society
Recherche / Secteur public · 2024
Pipeline RAG privé pour les connaissances de recherche
A participé à la construction d'un pipeline privé de génération augmentée par récupération (RAG) utilisant les données publiques de Fraunhofer, afin d'améliorer la précision des réponses de l'IA et l'accessibilité des connaissances.
Contexte
Point de départ et environnement
Les institutions de recherche génèrent de vastes quantités de publications, de rapports techniques et de documentation de projets. Rendre ces connaissances consultables, fiables et accessibles reste un défi permanent.
Défi
Contrainte principale à résoudre
Construire un système RAG qui garantit précision et sécurité (résistant aux hallucinations et aux injections de prompt) tout en traitant des types de documents variés et en garantissant que les réponses reposent sur des connaissances institutionnelles vérifiées.
Solution
Démarche de conception et de mise en œuvre
A dirigé des améliorations dans l'ingestion et le nettoyage des données, les processus de récupération et la conception des garde-fous. A appliqué des techniques de prompt engineering pour renforcer l'ancrage factuel, réduire les hallucinations et renforcer la robustesse contre les attaques par prompt, garantissant une gestion des connaissances pilotée par l'IA fiable et sécurisée.
Résultat
Impact mesurable et résultat de la livraison
A amélioré la précision des réponses et réduit les taux d'hallucination. A établi des modèles de sécurité pour les systèmes d'IA traitant des données de recherche sensibles, y compris des défenses contre les attaques par injection de prompt.
Point clé
“La qualité d'un RAG vient surtout de la préparation des données, pas des ajustements de modèle. Une meilleure ingestion et un meilleur découpage (chunking) ont le plus fait progresser la précision, et les garde-fous de sécurité devaient être intégrés dès le premier jour.”
L'aperçu du PDF s'ouvre dans un nouvel onglet pour une meilleure compatibilité avec les navigateurs.
Vous travaillez sur quelque chose de similaire ? Je prends en charge un nombre restreint de missions de conseil et de freelance en IA agentique, systèmes RAG et fiabilité des LLM.