Choisir une IA d'entreprise sécurisée on premise

Un système d'IA dont les modèles s'exécutent sur des serveurs contrôlés par l'organisation, à l'intérieur de son réseau. Les documents interrogés, les requêtes et les réponses ne transitent par aucun service tiers. Le mode on premise s'oppose au recours à une API externe, où chaque requête quitte le système d'information du client.

Le déploiement nécessite des serveurs équipés de cartes graphiques adaptées à la taille du modèle retenu, ainsi qu'une infrastructure réseau locale configurée pour supporter des flux d'inférence sécurisés. Le dimensionnement se déduit du besoin logiciel, à savoir le volume documentaire à indexer, le nombre d'utilisateurs simultanés et le temps de réponse attendu. La quantification des modèles réduit sensiblement l'empreinte matérielle nécessaire.

Dans ses questions-réponses du 18 juillet 2024 sur l'utilisation d'un système d'IA générative, la CNIL indique que lorsque l'usage envisagé consiste à fournir des données personnelles ou de la documentation sensible ou stratégique, par exemple pour du RAG, il semble généralement plus opportun et plus sécurisé de privilégier le déploiement de solutions sur site, qui limitent les risques d'extraction de données auprès d'un tiers. Elle renvoie sur ce point aux recommandations de sécurité de l'ANSSI.

Oui, dès lors que les modèles, l'orchestration et la base vectorielle sont installés sur site. Le service continue de répondre en cas de coupure de la liaison externe, et un déploiement en réseau fermé reste possible pour les environnements les plus sensibles. La connexion externe ne sert alors qu'aux mises à jour, sous contrôle de l'équipe d'exploitation.

Les mises à jour s'effectuent par le biais de pipelines d'intégration continue sécurisés permettant de charger de nouvelles versions quantifiées des modèles sans interrompre les services en production. Les poids sont importés, vérifiés, puis basculés progressivement, ce qui autorise un retour à la version précédente en cas de régression constatée.

Oui. Les techniques d'apprentissage telles que le fine-tuning léger ou l'adaptation de bas rang peuvent être réalisées entièrement au sein de l'infrastructure privée de l'entreprise. Dans la majorité des cas d'usage documentaires, l'ancrage des réponses sur les documents du client via le RAG produit un résultat suffisant sans réentraîner quoi que ce soit.

La réponse dépend du volume de requêtes, du taux d'utilisation des serveurs et du coût d'exploitation interne. Les travaux publiés sur le sujet, dont l'analyse coût-bénéfice de Pan et al. publiée sur arXiv en 2025, concluent que l'économie du déploiement local est fortement dépendante du contexte et qu'un seuil de rentabilité existe à partir d'un certain volume soutenu. Pour des données que la réglementation interdit d'exposer à un tiers, l'arbitrage se joue cependant sur la conformité avant de se jouer sur le coût.

Sept exigences couvrent l'essentiel du risque, à savoir la description du chemin complet d'une requête, la démonstration du fonctionnement sans accès internet, la liste des modèles avec leurs versions et licences, l'intégration à l'annuaire d'entreprise avec filtrage par droits à la requête, le journal des requêtes et son format d'export, les conditions de réversibilité des données et des index, et le dimensionnement matériel rapporté à un volume documentaire et à un nombre d'utilisateurs annoncés.