Agents IA
Prompt engineering pour entreprises : les bases qui font la différence
Maîtrisez le prompt engineering pour obtenir des résultats professionnels avec GPT-4 et Claude. Techniques, templates et exemples concrets pour les équipes métier.
Vous avez un stock de 5 000 fiches produits, 10 ans de contrats clients ou une base de connaissances interne que vos équipes consultent des dizaines de fois par jour. Vous voulez qu’une IA réponde à des questions à partir de ces données — avec précision, sans inventer. Deux chemins s’offrent à vous : le RAG (Retrieval-Augmented Generation) et le fine-tuning. Ce guide vous explique concrètement la différence, les coûts réels et comment choisir la bonne méthode selon votre situation.
Qu’est-ce que le RAG (Retrieval-Augmented Generation) ?
Le RAG, c’est l’idée de donner à l’IA un moteur de recherche interne branché sur vos propres documents. Quand un utilisateur pose une question, le système commence par chercher les passages les plus pertinents dans votre base documentaire, puis les transmet au modèle de langage (GPT-4, Claude, etc.) pour formuler une réponse.
Analogie : imaginez un consultant ultra-compétent qui arrive avec votre bibliothèque sous le bras. Avant de répondre, il feuillette rapidement les documents les plus utiles, puis synthétise une réponse. Il ne mémorise rien de permanent — à chaque question, il cherche et s’adapte.
Techniquement, un pipeline RAG repose sur :
- Un index vectoriel : vos documents sont découpés en morceaux (chunks) et convertis en vecteurs numériques. Des outils comme Pinecone, Chroma ou Weaviate stockent ces vecteurs.
- Un moteur de recherche sémantique : quand une question arrive, le système trouve les chunks les plus proches sémantiquement (pas seulement les mots exacts).
- Un LLM (OpenAI GPT-4, Claude Sonnet, Mistral…) qui reçoit la question + les extraits retrouvés et rédige la réponse finale.
Des frameworks comme LangChain ou LlamaIndex simplifient l’assemblage de ces briques. La mise à jour de la base est immédiate : vous ajoutez un document, il est indexé en quelques secondes.
Qu’est-ce que le fine-tuning ?
Le fine-tuning consiste à ré-entraîner un modèle existant sur vos données spécifiques pour modifier son comportement de base. Au lieu de lui fournir des documents à la volée, vous lui apprenez — de manière permanente — un style, un vocabulaire, des réponses types ou un domaine très spécialisé.
Analogie : comparer un employé expérimenté à qui on donne un manuel (RAG) vs un employé qu’on envoie en formation intensive pendant trois semaines (fine-tuning). Après la formation, il n’a plus besoin du manuel — mais si les procédures changent, il faut le reformer.
En pratique, le fine-tuning sur OpenAI (GPT-4o mini, GPT-3.5 Turbo) nécessite un jeu de données structuré au format prompt → completion, typiquement plusieurs centaines à plusieurs milliers d’exemples. Le processus prend quelques heures à quelques jours selon le volume, et génère un modèle personnalisé facturé à l’usage.
Le fine-tuning modifie le “caractère” du modèle : ton, style, réflexes de réponse. Il ne lui injecte pas des connaissances factuelles fraîches — un modèle fine-tuné ne saura pas ce qui s’est passé hier.
RAG vs Fine-tuning : comparaison complète
| Critère | RAG | Fine-tuning |
|---|---|---|
| Coût setup | 500 – 3 000 € | 2 000 – 15 000 € |
| Coût mensuel | 50 – 300 € (hébergement index + API) | 100 – 500 € (inférence modèle custom) |
| Délai de mise en place | 1 – 4 semaines | 4 – 12 semaines |
| Mise à jour des données | Instantanée (ajout de documents) | Nécessite un ré-entraînement |
| Transparence des sources | Oui — sources citables | Non — connaissances “fondues” dans le modèle |
| Cas d’usage idéal | Questions/réponses, recherche documentaire | Style, ton, domaine très spécialisé |
| Complexité technique | Moyenne | Élevée |
| Risque d’hallucination | Faible (ancré dans les docs) | Modéré (peut inventer des faits) |
| RGPD | Données restent dans votre infrastructure | Données envoyées à l’hébergeur pour training |
| Scalabilité | Très bonne (ajout de docs à la volée) | Limitée (chaque évolution = ré-entraînement) |
Quand choisir le RAG pour votre PME ?
Le RAG est la solution recommandée dans la grande majorité des cas pour les PME. Voici les 5 situations où il s’impose :
-
Vos données changent souvent : catalogue produits mis à jour chaque semaine, nouvelles circulaires réglementaires, contrats récents. Le RAG intègre ces changements sans aucun ré-entraînement.
-
Vous avez besoin de traçabilité : dans un contexte juridique, médical ou réglementaire, pouvoir citer la source exacte d’une réponse est indispensable. Le RAG retourne toujours le passage source.
-
Votre budget est limité : un RAG fonctionnel peut être déployé à partir de 1 500 € de développement et 80 €/mois de coûts opérationnels. C’est 3 à 5 fois moins cher qu’un fine-tuning.
-
Vous avez un grand volume de documents : 10 000 pages de documentation technique, archives de dossiers clients, base de FAQ — le RAG indexe tout sans limite pratique.
-
Vous voulez démarrer rapidement : un premier prototype RAG fonctionnel sur vos données peut être opérationnel en 2 à 3 semaines avec LangChain + Chroma.
Exemple concret : un distributeur de pièces industrielles déploie un chatbot RAG sur son catalogue de 45 000 références. Les techniciens obtiennent des réponses précises (dimensions, compatibilités, délais) en quelques secondes au lieu de 10 minutes de recherche manuelle.
Quand choisir le fine-tuning ?
Le fine-tuning devient pertinent dans des situations spécifiques :
-
Vous avez besoin d’un ton très particulier : une enseigne de luxe qui veut un assistant avec une syntaxe irréprochable et un style maison — le fine-tuning encode ce style dans le modèle.
-
Votre domaine utilise un vocabulaire ultra-spécialisé : terminologie médicale rare, langage juridique très technique, argot professionnel — le fine-tuning améliore la compréhension native de ce vocabulaire.
-
Vous avez un très grand nombre de requêtes similaires : si 90 % des questions suivent 20 patterns répétitifs, un modèle fine-tuné répondra plus vite et moins cher qu’un pipeline RAG complet.
-
Vous travaillez sans connexion : dans des environnements industriels sans réseau ou avec des contraintes de latence extrêmes, un modèle fine-tuné déployé localement (Llama, Mistral) peut être plus adapté.
-
Vous avez déjà beaucoup de données labellisées : si vous disposez de milliers d’échanges support annotés
question → bonne réponse, le fine-tuning peut encoder cette expertise directement dans le modèle.
Combien coûte chaque approche ?
| Poste | RAG | Fine-tuning |
|---|---|---|
| Développement initial | 1 500 – 3 000 € | 4 000 – 12 000 € |
| Préparation des données | 200 – 500 € | 1 000 – 5 000 € |
| Hébergement index vectoriel | 20 – 80 €/mois | — |
| API LLM (OpenAI / Claude) | 30 – 150 €/mois | 80 – 400 €/mois |
| Ré-entraînement (si évolution) | 0 € | 500 – 3 000 € par session |
| Total première année | 3 000 – 7 500 € | 8 000 – 25 000 € |
Ces fourchettes supposent un usage PME standard (quelques centaines de requêtes par jour). Pour un usage intensif (milliers de requêtes/heure), les coûts d’API montent proportionnellement dans les deux cas.
Exemple : un cabinet d’avocats forme son IA sur 10 000 dossiers
Un cabinet d’avocats spécialisé en droit social souhaite permettre à ses collaborateurs de rechercher rapidement des précédents dans 10 000 dossiers archivés (contrats, assignations, jugements, notes internes) — soit environ 800 000 pages.
Pourquoi le choix s’est porté sur le RAG :
- Les dossiers sont mis à jour en permanence (nouveaux jugements chaque semaine)
- La traçabilité est obligatoire : chaque réponse doit citer le dossier source
- Le RGPD impose que les données ne quittent pas l’infrastructure du cabinet (RAG déployé on-premise avec Chroma + modèle Claude via API privée)
- Budget disponible : 5 000 € de setup
Résultats après 3 mois :
- Temps moyen de recherche de précédents : de 45 minutes à 4 minutes
- Taux de satisfaction des collaborateurs : 87 %
- ROI estimé : 8 heures d’avocat économisées par semaine, soit environ 2 400 €/mois de productivité récupérée
- Coût opérationnel : 120 €/mois (hébergement Chroma + API)
FAQ
Peut-on combiner RAG et fine-tuning ?
Oui, et c’est parfois la meilleure approche. Le fine-tuning encode le style et le vocabulaire métier ; le RAG fournit les connaissances factuelles récentes. Par exemple : un modèle fine-tuné sur le jargon médical d’un hôpital, combiné à un RAG sur les protocoles de soin mis à jour chaque mois. Cette architecture “hybride” est plus coûteuse mais offre le meilleur des deux mondes.
Le RAG est-il compatible avec le RGPD ?
Oui, sous conditions. Si vous déployez le pipeline RAG sur votre infrastructure (serveur on-premise ou cloud privé), les données ne quittent jamais votre périmètre. L’utilisation d’une API externe (OpenAI, Anthropic) pour le LLM nécessite de vérifier que le contrat de traitement des données est conforme — ce que proposent les offres entreprise d’OpenAI et d’Anthropic. Des solutions 100 % locales (Ollama + Mistral + Chroma) permettent une conformité maximale sans aucun envoi externe.
Mon entreprise n’a pas de données structurées — peut-on quand même faire du RAG ?
Absolument. Le RAG fonctionne avec des documents non structurés : PDFs, emails, pages Word, transcriptions audio converties en texte. LangChain inclut des “loaders” pour des dizaines de formats. La seule exigence est que les documents soient en texte lisible — les scans non OCRisés nécessitent une étape de traitement préalable.
Vous hésitez encore entre RAG et fine-tuning pour votre projet ? Nos experts analysent votre cas concret et vous proposent l’architecture adaptée à votre budget et vos contraintes.
Obtenir un audit gratuit de votre projet IA →
Vous souhaitez aller plus loin sur l’implémentation d’une base de connaissances RAG pour votre entreprise ? Découvrez notre guide complet sur la création d’une base de connaissances IA par RAG.
