Entraîner un chatbot sur vos documents guide complet RAG & fine-tuning

"Entraîner" son chatbot : ce que ça signifie vraiment

Quand on parle d'"entraîner un chatbot sur ses documents", il y a une confusion très répandue qu'il faut lever immédiatement. La plupart des gens imaginent que l'IA va "lire" leurs documents et "apprendre" leur contenu comme un employé. La réalité technique est différente.

Ce que "entraîner" signifie vraiment en IA

Le vrai entraînement d'un modèle IA — appelé fine-tuning — consiste à modifier les paramètres mathématiques internes du modèle en lui faisant traiter des milliers d'exemples question/réponse. C'est coûteux, long (plusieurs heures à plusieurs jours de calcul GPU), et nécessite une expertise technique pointue.

Pour qu'un fine-tuning soit utile, il vous faut en général plusieurs centaines à plusieurs milliers d'exemples de haute qualité. Et le résultat ne garantit pas que le modèle "connaîtra" précisément le contenu de vos documents — il adaptera plutôt son style, son ton, et sa façon de raisonner.

Ce que vous voulez vraiment faire : le RAG

Pour qu'un chatbot réponde précisément sur le contenu de vos documents, la solution n'est pas le fine-tuning mais le RAG (Retrieval Augmented Generation). Le principe :

1. Vos documents sont découpés en morceaux et transformés en représentations mathématiques (embeddings)
2. Ces représentations sont stockées dans une base de données spécialisée (vector store)
3. Quand un utilisateur pose une question, le système trouve les passages de vos documents les plus pertinents
4. Ces passages sont donnés au LLM comme contexte pour formuler sa réponse

Le LLM ne "connaît" pas vos documents — il les consulte à la demande. C'est bien plus fiable pour des informations spécifiques à votre entreprise.

RAG vs fine-tuning : quand utiliser quoi ?

La question n'est pas laquelle est "meilleure" — elles répondent à des besoins différents. Voici un guide de décision clair.

Cas où le fine-tuning est pertinent

Le fine-tuning est justifié dans des cas précis :

• Vous voulez que le chatbot adopte un style de communication très particulier (registre de langue, format de réponse structuré)
• Vous travaillez dans un domaine technique très spécialisé dont les termes ne sont pas bien couverts par les modèles de base
• Vous souhaitez réduire la latence en évitant l'étape de recherche vectorielle (chatbot haute fréquence)
• Vous avez des milliers d'exemples de conversations annotées de haute qualité

Pour tout autre cas de chatbot documentaire PME, commencez par le RAG. Vous pourrez toujours combiner RAG + fine-tuning ultérieurement si le besoin se précise.

Préparer ses documents : formats et nettoyage

La qualité des réponses de votre chatbot dépend directement de la qualité de vos documents sources. Un document mal structuré produit des chunks mal formés, qui produisent de mauvaises réponses. Prenez le temps de préparer correctement vos sources.

Formats supportés et leurs particularités

Nettoyage des documents : les 7 règles

1. Supprimer les doublons. Deux versions d'un même document créent de la confusion et des réponses contradictoires.
2. Retirer les informations obsolètes. Des tarifs de 2022 dans une FAQ 2026 vont induire des erreurs. Datez vos documents et archivez les versions périmées.
3. Éliminer les éléments non-informatifs. En-têtes, pieds de page, numéros de page, mentions légales répétitives — ces éléments polluent les chunks sans apporter d'information utile.
4. Corriger les erreurs de ponctuation et de formatage. Un texte bien structuré produit de meilleurs chunks que du texte brut mal formaté.
5. Décomposer les documents très longs. Un PDF de 200 pages sur tout votre catalogue produit de moins bons résultats qu'un fichier par catégorie de 20-30 pages.
6. Ajouter du contexte manquant. Si vos documents utilisent des acronymes ou des noms de produits internes, ajoutez un glossaire ou développez les acronymes dans le texte.
7. Vérifier la cohérence des informations. Deux documents qui se contredisent créeront des réponses incohérentes. Arbitrez avant d'indexer.

Chunking : comment découper intelligemment ses données

Le chunking est l'étape de découpe de vos documents en segments ("chunks") qui seront indexés séparément. C'est souvent le facteur le plus impactant sur la qualité des réponses — et l'étape la plus négligée.

Pourquoi le chunking est crucial

Si vos chunks sont trop petits, chaque morceau manque de contexte — le chatbot ne peut pas comprendre de quoi il parle. Si vos chunks sont trop grands, le signal pertinent est noyé dans du bruit — la recherche vectorielle trouve le bon document mais pas le bon passage.

Les stratégies de chunking

Chunking par taille fixe

Découpe tous les N tokens. Simple à implémenter, mais coupe parfois au milieu d'une idée. Atténué par l'ajout d'un chevauchement (overlap) de 50 à 100 tokens entre chunks consécutifs. C'est le mode par défaut de la plupart des outils.

Chunking par structure sémantique

Découpe aux frontières naturelles du document : paragraphes, sections, titres H2/H3. Donne de meilleurs résultats sur des documents bien structurés (guides, procédures, FAQ). C'est l'approche recommandée pour la plupart des documents d'entreprise.

Chunking récursif

Tente d'abord de découper par paragraphes, puis par phrases, puis par mots si les chunks sont encore trop grands. LangChain implémente ce mode nativement avec RecursiveCharacterTextSplitter.

Chunking par document complet

Pour des documents courts (fiches produit, questions FAQ individuelles), indexer le document entier comme un seul chunk peut être la meilleure approche.

Tailles recommandées selon le type de document

Embeddings : transformer le texte en vecteurs

L'embedding est la transformation d'un texte en un vecteur numérique (une liste de nombres) qui représente son sens sémantique. Deux passages avec un sens proche auront des vecteurs proches dans l'espace mathématique, même s'ils utilisent des mots différents. C'est ce qui permet la recherche sémantique.

Comment ça fonctionne concrètement

Un modèle d'embedding transforme "Quels sont vos horaires d'ouverture ?" et "À quelle heure ouvrez-vous ?" en vecteurs très proches — le système comprend que ce sont des questions équivalentes, même si aucun mot n'est identique. C'est bien plus puissant qu'une recherche par mots-clés.

Choisir son modèle d'embedding

Règle importante : utilisez toujours le même modèle d'embedding pour l'indexation et pour les requêtes. Mélanger les modèles produit des résultats incohérents.

Coût de l'embedding

Avec text-embedding-3-small d'OpenAI, indexer 1 000 pages de texte revient à quelques centimes. C'est négligeable. Le coût récurrent est celui des requêtes : chaque question d'utilisateur génère un embedding, mais ces embeddings sont très courts, donc le coût reste minimal (moins d'un euro pour 10 000 questions).

Indexation et stockage dans un vector store

Le vector store (base de données vectorielle) stocke vos embeddings et permet de rechercher rapidement les passages les plus proches sémantiquement d'une requête. C'est le cœur de l'infrastructure RAG.

Comparatif des solutions de vector store

Pour débuter : Chroma est le choix le plus simple — installation en une ligne Python, aucune configuration. Pour une mise en production robuste, Qdrant (self-hosted sur votre VPS) ou Pinecone (cloud) sont les meilleures options.

Métadonnées : enrichir les chunks pour le filtrage

Chaque chunk indexé peut être associé à des métadonnées : source du document, date de création, catégorie, langue, auteur. Ces métadonnées permettent de filtrer la recherche ("chercher uniquement dans les documents de la catégorie Tarifs") et d'indiquer la source dans les réponses du chatbot.

Exemple de métadonnées recommandées :

• source : nom du fichier ou URL
• category : catégorie thématique (FAQ, Tarifs, Procédure, Juridique…)
• updated_at : date de dernière mise à jour
• language : langue du document

Mettre à jour la base de connaissances

La base de documents n'est jamais figée. Des tarifs changent, des procédures évoluent, de nouveaux produits sont ajoutés. Un processus de mise à jour mal géré produit un chatbot qui donne de vieilles informations — ce qui est pire que pas de chatbot du tout.

Stratégies de mise à jour

Mise à jour complète (re-indexation totale)

Supprimer tous les chunks existants et réindexer l'ensemble des documents depuis zéro. Simple mais coûteux en temps pour les grandes bases. Adapté aux mises à jour trimestrielles ou semestrielles si votre base est petite.

Mise à jour incrémentale (recommandée)

Pour chaque document modifié, supprimer les anciens chunks (filtrés par l'identifiant de source) et réindexer le nouveau document. La plupart des frameworks RAG supportent cette approche. Coût et temps minimaux.

Pipeline automatisé

Avec N8N ou Make, vous pouvez automatiser la mise à jour : un webhook déclenché quand un fichier est modifié dans Google Drive ou SharePoint → extraction du texte → re-chunking → réindexation automatique.

Bonnes pratiques de maintenance

• Définissez un responsable de la base de connaissances dans votre organisation
• Mettez en place un calendrier de révision régulier (mensuel pour les tarifs, trimestriel pour les procédures)
• Versionnez vos documents sources dans un espace de stockage centralisé (Google Drive, SharePoint)
• Tracez les mises à jour dans les métadonnées (date de dernière modification)
• Créez un processus de signalement pour que les utilisateurs puissent indiquer une réponse incorrecte

Tester et mesurer la qualité des réponses

Un chatbot RAG doit être évalué rigoureusement avant mise en production. L'intuition ne suffit pas — des métriques objectives sont nécessaires pour identifier les faiblesses et mesurer les améliorations.

Construire un jeu de test

Avant de tester, créez un ensemble de 20 à 50 paires question/réponse de référence couvrant :

• Les questions fréquentes que posent réellement vos clients
• Des questions factuelles vérifiables (tarifs, délais, conditions)
• Des questions hors périmètre (pour vérifier que le chatbot sait dire "je ne sais pas")
• Des reformulations de mêmes questions (pour tester la robustesse sémantique)

Les métriques RAG clés

Précision des chunks récupérés (Retrieval Precision)

Parmi les chunks récupérés pour une question, combien contiennent réellement la réponse ? Une précision faible signifie que le système cherche dans les mauvais endroits — problème de chunking ou d'embedding.

Rappel (Retrieval Recall)

Le chunk contenant la bonne réponse est-il bien récupéré ? Un rappel faible signifie que des informations pertinentes ne sont pas trouvées — problème de taille de chunk ou de paramètre top-k.

Fidélité (Faithfulness)

La réponse générée est-elle cohérente avec les chunks récupérés ? Des hallucinations malgré un RAG bien configuré indiquent un problème de prompt ou de modèle.

Pertinence de la réponse (Answer Relevancy)

La réponse répond-elle vraiment à la question posée ? Une réponse précise mais hors sujet (le chunk est pertinent mais la génération dérive) révèle un problème de prompt.

Outils d'évaluation automatisée

Des frameworks comme RAGAS (open-source) permettent d'évaluer automatiquement un pipeline RAG sur les métriques ci-dessus. Flowise et Dify intègrent également des modules d'évaluation. Pour un premier projet, une évaluation manuelle sur 20-30 questions suffit.

Améliorer les réponses : techniques avancées

Une fois les métriques de base établies, voici les leviers pour améliorer les performances.

Améliorer la récupération (Retrieval)

Recherche hybride (Hybrid Search)

Combiner la recherche vectorielle (sémantique) avec la recherche par mots-clés (BM25). La recherche vectorielle excelle pour les formulations proches dans le sens, BM25 pour les termes techniques précis (noms de produits, codes). La combinaison donne de meilleurs résultats que l'une ou l'autre seule.

Reranking

Après la première recherche vectorielle qui retourne les top-k chunks, un modèle de reranking (comme Cohere Rerank ou FlashRank) reclasse les résultats pour mieux identifier les passages les plus pertinents. Améliore souvent la précision de 10 à 20%.

HyDE (Hypothetical Document Embeddings)

Avant de chercher les chunks, demander au LLM de générer une réponse hypothétique à la question, puis chercher des chunks proches de cette réponse hypothétique. Contre-intuitif mais très efficace pour les questions complexes.

Améliorer la génération (Generation)

Optimiser le prompt système

Ajoutez des instructions explicites sur le format, la longueur, et le comportement en cas d'incertitude. Exemple : "Si la réponse n'est pas dans les documents fournis, réponds : 'Je n'ai pas l'information pour répondre à cette question. Contactez notre équipe au [numéro].'"

Citer les sources

Demandez au LLM d'indiquer de quel document vient l'information. Ça renforce la crédibilité et aide à détecter les hallucinations.

Compression contextuelle

Si vous récupérez 5 chunks mais que seule une partie de chacun est pertinente, utilisez une étape de compression : un LLM résume uniquement les parties pertinentes de chaque chunk avant de les passer au LLM final. Réduit le bruit dans le contexte.

Les outils disponibles pour créer un chatbot RAG

Outils no-code / low-code

Flowise

Interface graphique open-source pour construire des pipelines LangChain sans code. Vous branchez des blocs visuellement : chargement PDF → chunking → embedding → vector store → chaîne RAG → interface chat. Déployable en self-hosted (Docker). Idéal pour les équipes non-techniques qui veulent du contrôle.

Dify

Plateforme complète d'applications IA avec gestion de la base de connaissances intégrée, interface d'administration, et API. Version cloud et self-hosted disponibles. Permet de créer un chatbot RAG complet avec interface utilisateur en moins d'une heure.

N8N + nœuds IA

N8N dispose de nœuds natifs pour le RAG (Vector Store, Embeddings, AI Agent) depuis la version 1.x. Permet d'intégrer le RAG dans des workflows d'automatisation plus larges — par exemple, indexer automatiquement de nouveaux documents arrivant par email.

Frameworks pour développeurs

LangChain

Le framework Python le plus utilisé pour les applications LLM. Propose des abstractions pour toutes les étapes RAG : loaders, splitters, embeddings, vector stores, chains. Très bien documenté mais parfois complexe pour des besoins simples.

LlamaIndex

Spécialisé dans le RAG et la gestion de données pour LLM. Plus simple que LangChain pour les use cases purement documentaires. Excellent pour les structures de données complexes et la gestion multi-documents.

3 cas d'usage concrets pour PME

Voici trois applications concrètes d'un chatbot RAG dans des contextes PME français, avec les documents indexés et les résultats attendus.

Cas 1 : Chatbot FAQ interne (toutes activités)

Problème : Les nouvelles recrues posent 50 fois les mêmes questions à leurs managers : congés, mutuelle, procédures informatiques, accès aux outils, qui contacter pour quoi.

Solution : Indexer le règlement intérieur, les procédures RH, les guides d'onboarding, et les contacts internes dans un chatbot accessible sur l'intranet ou Slack.

Documents indexés : Règlement intérieur (PDF), guide d'onboarding (Word), procédures IT (Confluence/Notion), organigramme (Excel), contrats de mutuelle/prévoyance (PDF).

Résultats attendus : Réduction des questions redondantes aux RH et managers. Les nouvelles recrues trouvent les réponses de base en autonomie.

Cas 2 : Chatbot support client (e-commerce, SaaS)

Problème : Le service client reçoit des centaines de demandes similaires : "Comment annuler ma commande ?", "Quel est le délai de livraison ?", "Comment changer mon mot de passe ?"

Solution : Indexer la base de connaissance support, les FAQ produit, les conditions générales de vente, et les procédures de retour dans un chatbot sur le site ou en intégration avec l'outil de support (Zendesk, Freshdesk).

Documents indexés : FAQ site (HTML scraping), CGV (PDF), guide d'utilisation produit (Word), politique de retour (PDF), réponses aux 50 questions les plus fréquentes (Markdown).

Résultats attendus : Résolution automatique de 60 à 80% des tickets de niveau 1. Réduction du coût de support. Disponibilité 24h/24.

Cas 3 : Assistant commercial et configurateur (B2B, industrie)

Problème : Les commerciaux passent beaucoup de temps à chercher dans des catalogues techniques pour répondre aux questions prospects : compatibilité, spécifications, disponibilité, délais.

Solution : Indexer le catalogue produit complet, les fiches techniques, les tarifs, et les FAQ commerciales dans un chatbot utilisé par les commerciaux en mobilité ou directement par les prospects sur le site.

Documents indexés : Catalogue produit (PDF/CSV), fiches techniques (Word/PDF), tableau de compatibilité (Excel converti), grille tarifaire (Excel), FAQ commerciale (Markdown).

Résultats attendus : Accélération du cycle de vente. Réponses techniques précises sans expertise spécialisée requise. Réduction des erreurs de configuration.