Copilote IA interne souverain

Déployer un copilote IA interne sans SaaS opaque

Vous voulez un copilote qui comprenne vos procédures, vos contrats et vos dossiers, sans envoyer ces contenus chez un éditeur dont vous ne maîtrisez ni l'infrastructure ni les traitements. Quatre décisions structurent ce projet. Elles portent sur le lieu d'exécution, le modèle retenu, la façon dont vos données rejoignent le système, et la traçabilité que vous serez capable de produire devant un auditeur.

En bref

Un copilote IA interne souverain associe quatre éléments que vous contrôlez séparément. D'abord un lieu d'exécution, soit vos propres serveurs, soit une offre cloud française qualifiée par l'ANSSI. Ensuite un modèle à poids ouverts, dont vous pouvez inspecter la licence et figer la version. Puis une indexation de vos documents en base vectorielle locale, par la technique du RAG, qui évite tout réentraînement et tout transfert. Enfin une journalisation locale des échanges, qui rend le système auditable par vos propres équipes.

La différence avec un SaaS tient moins à la performance qu'à la vérifiabilité. Vous pouvez démontrer où s'exécute le traitement, quel modèle a répondu, sur quels documents, et à qui. Cette démonstration est difficile à produire lorsque le traitement se déroule chez un tiers, derrière une API.

4
Briques à arbitrer, indépendamment les unes des autres
4 mois
Retard moyen approximatif des meilleurs modèles ouverts en 2026 (Epoch AI)
50 M
Jetons par mois, ordre de grandeur du seuil de rentabilité de l'auto-hébergement
2027
Échéance révisée des systèmes à haut risque de l'AI Act

SaaS IA généraliste et copilote interne souverain

Six critères séparent les deux modèles. La performance brute n'en fait pas partie.

Critère SaaS IA généraliste Copilote interne souverain
Lieu de traitement Infrastructure de l'éditeur, parfois hors UE Vos serveurs ou une offre qualifiée en France
Exposition aux lois extraterritoriales Possible selon la nationalité de l'éditeur et de ses sous-traitants Écartée par construction en on-premise, traitée par le référentiel en cloud qualifié
Inspection du modèle Poids et version non communiqués Poids ouverts, licence vérifiable, version figée
Journaux d'exécution Conservés par l'éditeur, export limité Conservés chez vous, durée et format définis par vous
Structure de coût Abonnement ou facturation au jeton, croissance linéaire avec l'usage Investissement amorti puis coût courant, prévisible mais avec un seuil de rentabilité
Charge d'exploitation Portée par l'éditeur À votre charge, ou déléguée à un intégrateur

Le tableau oppose deux modèles types. En pratique, beaucoup d'organisations combinent les deux, en gardant les traitements sensibles en interne et en conservant une API externe pour les cas exceptionnels.

Les quatre briques d'un copilote interne

Chacune se décide indépendamment des autres. Vous pouvez commencer par un hébergement qualifié avec un modèle ouvert, puis renforcer la gouvernance dans un second temps, sans refaire l'architecture.

01

L'hébergement

Deux voies s'offrent à vous. L'installation sur vos propres serveurs écarte mécaniquement toute question de juridiction. L'hébergement chez un prestataire français qualifié SecNumCloud reporte cette garantie sur un référentiel audité par l'ANSSI, dont la version 3.2 traite explicitement l'immunité aux législations extraterritoriales.

02

Le modèle

Un modèle à poids ouverts vous permet de vérifier la licence, de figer une version et d'éviter toute évolution imposée du comportement. Mistral, Llama, Qwen et Gemma couvrent aujourd'hui des besoins très différents en mémoire GPU. Les classements publics servent à présélectionner, et le choix final se fait sur votre matériel réel.

03

Vos données, par le RAG

La génération augmentée par récupération connecte le modèle à vos documents sans réentraînement. Vos contenus sont découpés, vectorisés et stockés dans une base locale. Le copilote consulte cet index à chaque question, ce qui garde vos documents à l'intérieur du périmètre et permet de citer la source.

04

La gouvernance

Les droits de votre annuaire se répercutent sur l'index, de sorte qu'un collaborateur n'obtient de réponse que sur ce qu'il a déjà le droit de lire. Les échanges sont journalisés localement, avec horodatage et durée de conservation que vous définissez. Cette trace rend l'audit possible.

Que regarder en France, brique par brique

La question revient sous cette forme dans les directions informatiques. Voici les repères concrets, à vérifier au moment de votre consultation.

Brique Ce qu'il faut regarder Point de vigilance
Hébergement Vos propres serveurs GPU, ou les offres SecNumCloud de prestataires français. OVHcloud, Orange Business, Cloud Temple ou Scaleway figurent parmi les acteurs engagés dans la démarche. Plusieurs offres apparaissent encore sur la liste en cours de qualification de l'ANSSI. Seul le catalogue officiel des offres qualifiées fait foi.
Modèle Modèles à poids ouverts, dont ceux de Mistral AI, éditeur français, ainsi que Llama, Qwen ou Gemma selon la mémoire GPU disponible. Tous les modèles d'un même éditeur ne sont pas publiés en poids ouverts, et certaines licences imposent des conditions d'usage. La licence se lit version par version.
Données Base vectorielle open source installée localement, connecteurs vers votre gestion documentaire et votre annuaire. La qualité et le périmètre du corpus pèsent davantage sur le résultat que le choix du modèle.
Gouvernance Journalisation locale, droits hérités de l'annuaire, classification du système au sens de l'AI Act. Le niveau de risque se détermine selon l'usage réel du copilote, et peut évoluer avec lui.

Les noms cités illustrent le marché et ne constituent ni une liste exhaustive ni une recommandation. Assembler ces briques demande un intégrateur ou une solution packagée on-premise, rôle que remplit notre suite BADIS RAG.

Ce que SecNumCloud garantit, et ce qu'il ne garantit pas

Brique 1, l'hébergement. Une qualification précieuse, à condition de savoir exactement ce qu'elle couvre.

SecNumCloud est une qualification délivrée par l'ANSSI aux prestataires de services cloud. Son référentiel, en version 3.2 depuis mars 2022, se distingue des certifications internationales sur un point précis, l'exigence d'immunité aux législations extraterritoriales de type CLOUD Act ou FISA. Les données sont stockées et traitées dans l'Union européenne, et les accès d'administration sont tracés.

Deux nuances méritent d'être connues avant d'en faire un critère d'appel d'offres. La qualification porte sur une offre de service précise et non sur l'entreprise dans son ensemble, si bien qu'un prestataire peut proposer à la fois une offre qualifiée et d'autres qui ne le sont pas. Par ailleurs, l'ANSSI publie deux listes distinctes, celle des offres qualifiées et celle des offres en cours de qualification, cette seconde ne valant pas qualification.

L'obligation stricte ne concerne que les administrations d'État hébergeant des données sensibles, au titre de la doctrine dite du cloud au centre. Pour une entreprise privée, SecNumCloud constitue un repère de confiance et un argument de conformité, sans caractère contraignant. Le surcoût observé par rapport à une offre non qualifiée équivalente est réel et doit entrer dans votre arbitrage.

Avant de retenir un prestataire, demandez l'attestation de qualification et vérifiez quels services, quelles régions et quelles fonctionnalités sont effectivement couverts. Le catalogue officiel de l'ANSSI, mis à jour au moins une fois par mois, fait foi. Les listes publiées par des tiers sont souvent en retard ou imprécises sur la distinction entre qualifié et en cours.

Modèles ouverts, où en est réellement l'écart

Brique 2, le modèle. L'affirmation selon laquelle les modèles ouverts égalent désormais les modèles propriétaires est trop large pour être utile.

La réponse dépend de la tâche. Sur un indice agrégeant de nombreux benchmarks, Epoch AI mesure entre janvier et mai 2026 un retard moyen d'environ quatre mois des meilleurs modèles à poids ouverts sur les modèles fermés de pointe. Concrètement, un bon modèle ouvert atteint aujourd'hui le niveau que les meilleurs modèles fermés avaient quelques mois plus tôt. Pour la rédaction courante, la synthèse documentaire et l'extraction de données structurées, ce niveau suffit largement, et l'écart n'est plus systématiquement perceptible à l'usage.

Un écart mesurable subsiste néanmoins sur trois registres. Le raisonnement multi-étapes très complexe reste un terrain où les modèles propriétaires de pointe conservent une avance. Les contextes très longs, au-delà de quelques centaines de milliers de jetons, ne sont pas couverts de la même manière. Les capacités multimodales avancées, enfin, restent en retrait côté ouvert.

Pour un copilote documentaire interne, la charge de travail se concentre sur le premier registre. Voilà pourquoi l'arbitrage penche vers l'ouvert dans ce cas d'usage précis, et pourquoi il pourrait pencher autrement pour une assistance au développement logiciel avancée. Mistral AI et Llama restent des candidats naturels, Mistral offrant en plus l'avantage d'un éditeur européen, même si la tête du classement ouvert change régulièrement d'éditeur. La seule méthode fiable consiste à évaluer les modèles candidats sur vos propres documents, avant de vous engager.

Le coût total, sans raccourci

Un copilote interne est présenté un peu vite comme moins cher qu'un abonnement SaaS. La réalité est plus nuancée, et mieux vaut l'établir avant la réunion budgétaire.

Un coût variable devient fixe

Vous amortissez du matériel sur trois à quatre ans, vous payez l'électricité et l'hébergement, et vous mobilisez du temps d'ingénierie pour l'exploitation. En face, une API facture chaque jeton, indéfiniment. Le croisement des deux courbes intervient à un seuil de volume.

Un seuil qui dépend du modèle

Une étude de Carnegie Mellon portant sur 54 scénarios situe le point mort à quelques mois pour les petits modèles, autour de deux ans pour les modèles moyens et jusqu'à cinq ans pour les plus grands. L'auto-hébergement y devient rentable au-delà d'environ 50 millions de jetons par mois, ou lorsque la localisation des données est imposée.

L'exploitation, poste sous-estimé

Mises à jour, supervision, gestion des incidents et planification de capacité représentent une charge récurrente absente de toute facture matérielle. Sans compétence MLOps interne, il faudra l'externaliser, et ce montant doit figurer dans le modèle dès le départ.

Le résultat dépend de trois variables, le modèle comparé, le taux d'utilisation du GPU et le coût interne d'ingénierie. La conclusion honnête tient en une phrase. L'argument décisif du copilote interne reste la maîtrise des données et la capacité d'audit, la stabilité budgétaire venant ensuite, et l'économie nette seulement au-delà d'un volume que votre cas d'usage doit justifier.

Traçabilité, et ce que l'AI Act demande vraiment

Brique 4, la gouvernance. Disposer des journaux chez vous change la nature de l'exercice d'audit.

Vous consignez les requêtes, les documents consultés, l'identité du demandeur et l'horodatage, avec une durée de conservation que vous fixez. Cette trace permet de détecter une dérive de comportement et de répondre à une demande d'un régulateur sans dépendre de l'export d'un tiers.

Sur le plan réglementaire, une précision s'impose. L'obligation de journalisation automatique prévue par l'article 12 du règlement sur l'intelligence artificielle vise les systèmes classés à haut risque, au sens de l'annexe III. Un copilote documentaire interne relève le plus souvent du risque limité, soumis aux obligations de transparence de l'article 50, applicables depuis le 2 août 2026.

La qualification dépend de l'usage réel et non de la technologie. Un copilote qui se contente de retrouver une procédure reste en risque limité. Le même outil mobilisé pour aider à trier des candidatures, à décider d'un crédit ou à instruire une aide sociale bascule en haut risque, avec les six obligations correspondantes.

Le calendrier a par ailleurs été modifié par le règlement (UE) 2026/1744, dit Digital Omnibus, en vigueur depuis le 27 juillet 2026. Les obligations applicables aux systèmes à haut risque de l'annexe III sont désormais attendues au 2 décembre 2027, et celles des systèmes intégrés à des produits réglementés de l'annexe I au 2 août 2028. Ce report ne suspend pas l'intérêt de préparer l'inventaire et la classification de vos systèmes, ces travaux conditionnant tout le reste. Le détail figure sur notre page conformité AI Act.

Passer à la mise en œuvre

Ce guide traite la méthode, indépendamment de l'outil retenu. Côté produit, BADIS RAG apporte la brique documentaire, BADIS Data l'interrogation de vos bases structurées, et BADIS Agents IA l'exécution de tâches de bout en bout.

Découvrir BADIS RAG

La solution n'est pas encore choisie ?

Notre guide sur l'IA d'entreprise sécurisée on premise donne la grille de sélection en sept critères et les clauses d'appel d'offres. Le guide du RAG en entreprise couvre le marché, les prix et le RAG souverain.

Voir la grille de sélection

Qualifier le niveau de risque

Risque limité ou haut risque, obligations de transparence, littératie IA au titre de l'article 4 et calendrier révisé. Notre page dédiée détaille ce que le règlement exige selon l'usage réel de votre copilote.

Conformité AI Act

Sources

Les textes officiels font foi pour le volet réglementaire. Les travaux de mesure et d'économie sont datés, leurs chiffres évoluant à chaque génération de modèles.

  • ANSSI, catalogue des produits et services certifiés, qualifiés et agréés, mis à jour au moins une fois par mois, et liste distincte des prestataires SecNumCloud en cours de qualification.
    cyber.gouv.fr, solutions qualifiées
    cyber.gouv.fr, prestataires SecNumCloud en cours de qualification
  • Règlement (UE) 2024/1689 sur l'intelligence artificielle, au Journal officiel de l'Union européenne. Calendrier révisé par le règlement (UE) 2026/1744, publié le 24 juillet 2026 et en vigueur depuis le 27 juillet 2026.
    eur-lex.europa.eu, règlement (UE) 2024/1689
    Commission européenne, entrée en vigueur de l'AI Omnibus
  • Epoch AI, « Open models lag state-of-the-art closed models by 4 months », 29 mai 2026. Mesure, entre le 1er janvier et le 28 mai 2026, du retard moyen des meilleurs modèles à poids ouverts sur les modèles fermés de pointe, à partir de l'Epoch Capabilities Index, indice composite agrégeant de nombreux benchmarks. Données sous licence CC BY.
    epoch.ai, écart entre modèles ouverts et fermés
  • G. Pan, V. Chodnekar, A. Roy, H. Wang (Carnegie Mellon University), « A Cost-Benefit Analysis of On-Premise Large Language Model Deployment: Breaking Even with Commercial LLM Services », arXiv 2509.18101, version révisée de novembre 2025. Modélisation du coût total de possession sur 54 scénarios croisant neuf modèles ouverts, dont Llama, Mistral et Qwen, avec les principales API commerciales.
    arxiv.org, 2509.18101

Questions fréquentes

Les questions que posent les directions techniques et conformité avant de lancer le projet.

Un copilote souverain s'exécute sur des serveurs contrôlés par l'entreprise, ou chez un prestataire de cloud de confiance local dont l'offre est immunisée contre les législations extraterritoriales. Vos requêtes et vos documents ne transitent pas par l'infrastructure d'un éditeur tiers, ce qui écarte tout transfert non maîtrisé. Une solution SaaS classique traite vos contenus sur sa propre plateforme, selon des modalités que vous ne pouvez ni inspecter ni auditer par vous-même.

Pour les usages métiers courants, oui dans une large mesure. Les modèles ouverts, comme ceux de Mistral AI ou Llama, atteignent d'excellents résultats opérationnels lorsqu'ils sont adaptés à un cas d'usage précis et alimentés par vos documents. Sur un indice agrégeant de nombreux benchmarks, Epoch AI mesure en 2026 un retard moyen d'environ quatre mois des meilleurs modèles ouverts sur les modèles fermés de pointe. Cet écart reste sensible sur le raisonnement multi-étapes complexe, le code de niveau production et les contextes très longs. Il pèse beaucoup moins sur la rédaction, la synthèse et l'extraction documentaire, qui forment l'essentiel d'un copilote interne.

L'indexation s'effectue au sein d'une base de données vectorielle installée localement sur votre infrastructure sécurisée, au même titre que le modèle. Les documents sont découpés, vectorisés et stockés sans appel sortant, si bien qu'aucun document confidentiel n'est exposé à l'extérieur. Les droits d'accès de votre annuaire sont répercutés sur l'index, de sorte qu'un collaborateur n'obtient de réponse que sur les documents auxquels il a déjà droit.

Quatre points. Pour l'hébergement, les offres SecNumCloud des prestataires français ou vos propres serveurs, en vérifiant le statut exact de l'offre dans le catalogue de l'ANSSI. Le modèle se choisit parmi les modèles à poids ouverts, comme ceux de Mistral AI, éditeur français, ou Llama, en lisant la licence de chaque version. Vos données rejoignent le système par une base vectorielle locale et des connecteurs vers vos outils documentaires. La gouvernance, enfin, repose sur une journalisation locale et une qualification du niveau de risque au sens de l'AI Act.

Pas systématiquement. L'économie dépend du volume traité. Une analyse de Carnegie Mellon portant sur 54 scénarios de déploiement situe la rentabilité de l'auto-hébergement au-delà d'environ 50 millions de jetons par mois, avec un point mort de quelques mois pour les petits modèles et de plusieurs années pour les plus grands. En dessous, les API commerciales restent moins chères une fois intégrés l'infrastructure et l'exploitation. L'argument principal du copilote interne reste la maîtrise des données, la stabilité budgétaire venant en second.

Non, sauf cas particuliers. La qualification s'impose aux administrations d'État hébergeant des données sensibles, au titre de la doctrine du cloud au centre. Pour une entreprise privée, elle constitue un repère de confiance plutôt qu'une obligation. Deux vérifications s'imposent avant de retenir un prestataire, à savoir que la qualification porte sur une offre de service précise et non sur l'entreprise entière, et que la liste officielle de l'ANSSI distingue les offres qualifiées de celles en cours de qualification.

L'obligation de journalisation automatique de l'article 12 vise les systèmes classés à haut risque. Un copilote documentaire interne relève le plus souvent du risque limité, soumis aux obligations de transparence de l'article 50, applicables depuis le 2 août 2026. La qualification dépend de l'usage réel, un copilote qui aide à décider en matière de recrutement, de crédit ou d'accès à un service essentiel basculant en haut risque. Le calendrier de l'annexe III a été reporté au 2 décembre 2027 par le règlement (UE) 2026/1744, dit Digital Omnibus. Notre page conformité AI Act détaille les obligations par niveau de risque.

Rarement, et pas pour commencer. Le RAG couvre la grande majorité des besoins en connectant le modèle à vos documents, sans phase d'entraînement et sans que vos contenus n'entrent dans les poids. Cette approche présente deux avantages pratiques, la mise à jour immédiate lorsqu'un document change, et la possibilité de citer la source. Le réglage fin se justifie ensuite pour adapter un ton, un format de sortie ou une terminologie métier. L'apport de connaissance, lui, relève du RAG.

Un premier périmètre sur un corpus documentaire bien identifié est généralement opérationnel en quelques semaines. Le délai dépend surtout de l'état de vos documents et de la disponibilité de l'infrastructure, rarement de la partie modèle. Les projets qui dérapent sont presque toujours ceux dont le périmètre documentaire n'a pas été arrêté au démarrage.

Vos données restent dans votre périmètre

Cadrons votre copilote interne

En 30 minutes, nous qualifions votre cas d'usage, votre niveau de risque au sens de l'AI Act et le mode d'hébergement adapté à vos contraintes. Sans engagement.