Confier l’intelligence artificielle à OpenAI ou Anthropic, c’est confier une partie de ses données les plus stratégiques à un acteur tiers. Pour beaucoup de PME, cette dépendance est devenue un sujet : ralentissements du service, fuites involontaires de données, coûts récurrents qui grimpent avec l’usage, perte de contrôle sur les modèles et leurs évolutions. C’est dans ce contexte qu’une PME française, soucieuse de garder la main sur ses données et ses outils, nous a confié un chantier ambitieux : déployer en interne une machine d’intelligence artificielle dédiée, et l’orchestrer avec des agents IA autonomes capables de prendre en charge le secrétariat et les process métier au quotidien.
Retour sur un projet qui résume bien la nouvelle donne de l’IA en entreprise : ce n’est plus seulement une question de productivité, c’est une question de souveraineté, de conformité et de durabilité.
Le contexte : une PME qui voulait reprendre la main sur son IA
Notre client est une PME française d’une trentaine de salariés, active dans un secteur où la confidentialité des informations est une exigence du quotidien : données clients, propositions commerciales, contrats, échanges sensibles. Comme beaucoup de structures de cette taille, elle avait commencé à équiper ses équipes d’outils d’IA grand public ChatGPT pour la rédaction, Copilot pour le code, divers assistants pour la productivité.
Cette première vague a permis de gagner en efficacité, mais elle a aussi mis en évidence trois limites majeures.
La première, c’est la fuite progressive de données stratégiques. Sans process clair, des collaborateurs ont commencé à copier-coller des fragments de contrats, des extraits de bilans, des messages clients dans des outils dont les conditions d’utilisation ne garantissent pas la confidentialité au niveau attendu. Quelques incidents discrets ont suffi à alerter la direction.
La deuxième, c’est la fragmentation des outils. Chaque collaborateur utilisait son propre assistant, avec ses propres réglages, ses propres prompts, ses propres habitudes. Aucune capitalisation collective, aucune cohérence de discours, aucune mémoire métier partagée.
La troisième, c’est l’escalade des coûts récurrents. À mesure que l’usage augmentait, la facture mensuelle gonflait, sans visibilité sur ce qui était productif et ce qui ne l’était pas. L’IA devenait une ligne budgétaire de plus, sans gouvernance.
L’objectif fixé par la direction était clair : reprendre le contrôle, héberger l’intelligence artificielle en interne, et l’utiliser non pas comme un assistant ponctuel mais comme un collaborateur numérique capable de prendre en charge des tâches complètes, du début à la fin.
La problématique : pourquoi l’IA cloud ne suffisait plus
Avant de définir l’architecture cible, plusieurs sujets devaient être tranchés.
Le premier, c’est la souveraineté des données. Une PME qui manipule des contrats commerciaux, des données RH, des informations clients ou des éléments de bilan ne peut pas continuer indéfiniment à les exposer à des services hébergés hors UE, dont les modèles peuvent être réentraînés sur les requêtes utilisateurs, et dont les conditions d’utilisation évoluent sans préavis. Le RGPD et l’AI Act européen viennent par ailleurs renforcer ces exigences.
Le deuxième, c’est la maîtrise des coûts. Les abonnements aux assistants IA grand public sont facturés par utilisateur, par mois, et augmentent à chaque nouvelle version. Sur une PME de 30 personnes, la facture annuelle dépasse rapidement plusieurs milliers d’euros, sans aucune capitalisation patrimoniale : le jour où l’on arrête, on n’a plus rien.
Le troisième, c’est la personnalisation. Les outils grand public ne connaissent pas les spécificités de l’entreprise : le ton, les modèles de documents, les noms des produits, l’historique client, les process internes. Chaque demande oblige à réexpliquer le contexte, ce qui annule une partie du gain de productivité attendu.
Le quatrième, c’est la capacité d’agir. Un assistant qui répond est utile. Un agent qui agit — qui ouvre un e-mail, qui rédige, qui envoie, qui met à jour le CRM, qui prend un rendez-vous, qui produit un rapport — change la nature du gain. C’est exactement le pas à franchir en 2026.
Le cinquième, c’est la durabilité. Les modèles évoluent, les fournisseurs changent leurs politiques, les ruptures d’API arrivent sans préavis. Une infrastructure interne, bien conçue, protège l’entreprise contre ces aléas.
Notre approche : une machine IA dédiée, des agents qui agissent
Pour répondre à ces enjeux, nous avons conçu une architecture en deux couches indissociables : une machine d’intelligence artificielle hébergée localement dans les locaux du client, et un orchestrateur d’agents autonomes qui s’appuie sur cette machine pour exécuter des tâches métier de bout en bout.
Le principe est simple. La machine IA héberge les modèles de langage qui font tourner toute l’intelligence du système : rédaction, compréhension de documents, résumé, classification, génération de texte, vision. Les agents, eux, sont des programmes spécialisés qui savent quand appeler le modèle, quel outil utiliser pour effectuer une action concrète (envoyer un mail, créer un rendez-vous, mettre à jour le CRM), et comment vérifier que l’action a réussi.
Tout ce qui sort de la machine IA reste à l’intérieur de l’entreprise. Aucune donnée n’est envoyée à un service tiers. Aucune requête n’est utilisée pour réentraîner un modèle externe. L’infrastructure appartient à la PME, le jour 1 comme le jour 1000.
L’architecture matérielle et logicielle retenue
Le cœur du dispositif est un serveur GPU dédié installé dans le local technique du client, dimensionné pour exécuter en local des modèles de langage de la classe des grands modèles open source actuels. Le serveur est connecté au réseau interne, derrière le pare-feu existant, sans aucune exposition directe à Internet pour les composants sensibles.
Sur ce serveur tournent plusieurs briques.
- Un moteur d’inférence optimisé qui charge les modèles de langage et expose une API locale compatible avec les standards du marché.
- Une base de connaissances vectorielle dans laquelle sont indexés les documents internes de l’entreprise (contrats, procédures, modèles, historique client) pour que les agents puissent y puiser sans tout réinjecter dans chaque requête.
- Un orchestrateur d’agents qui définit, déclenche et supervise les agents autonomes. Chaque agent a un rôle précis, des outils autorisés et une boucle de vérification.
- Un système de connecteurs métier qui relie les agents aux outils existants de l’entreprise : messagerie, calendrier, CRM, ERP, GED, outils de signature électronique.
- Un journal d’audit qui enregistre chaque action effectuée par chaque agent — qui a fait quoi, quand, avec quelle décision et sur quelle base.
L’ensemble fonctionne en circuit fermé : les données ne sortent jamais de l’infrastructure de l’entreprise.
Le secrétariat augmenté : ce que les agents prennent en charge
Le premier périmètre adressé a été le secrétariat, parce que c’est là que la charge administrative pèse le plus sur l’organisation d’une PME et que les gains sont les plus immédiats. Plusieurs agents ont été conçus, chacun spécialisé sur un type de tâche.
L’agent de tri et de réponse aux e-mails
Il lit la boîte mail générique de l’entreprise, classe automatiquement les messages entrants (demande commerciale, demande de devis, question technique, relance client, candidature, spam), et propose une réponse rédigée dans le ton de l’entreprise. Les messages standards (accusé de réception, demande d’informations complémentaires, redirection vers le bon interlocuteur) peuvent être envoyés en autonomie, après une phase d’apprentissage supervisée. Les messages sensibles sont escaladés à un humain avec un résumé clair et une proposition de réponse.
L’agent de prise de rendez-vous
Il dialogue par e-mail ou par formulaire web avec les prospects et clients pour proposer un créneau, le confirmer, l’ajouter au calendrier, envoyer la convocation et préparer une fiche de préparation pour le commercial ou le dirigeant. Plus de ping-pong de mails sur « quel créneau vous arrange », plus de doublons d’agenda, plus d’oublis de confirmer.
L’agent rédacteur de devis et de propositions
À partir d’une demande client formulée en langage naturel, il rédige une première version de devis ou de proposition commerciale, en s’appuyant sur les modèles internes, l’historique commercial du client et la grille tarifaire en vigueur. Le commercial reçoit un document prêt à relire et signer, plutôt qu’une page blanche à remplir.
L’agent assistant de réunion
Il prépare l’ordre du jour à partir des e-mails et documents échangés en amont, prend des notes pendant la réunion (transcription locale, jamais cloud), génère un compte-rendu structuré, identifie les actions à mener et les distribue aux personnes concernées via le canal habituel.
L’agent de suivi de dossier
Il surveille l’avancement des dossiers clients ou fournisseurs, relance automatiquement les interlocuteurs qui n’ont pas répondu, met à jour le CRM, alerte le dirigeant en cas de blocage. Aucun dossier ne tombe entre deux chaises.
Au-delà du secrétariat : l’automatisation des process métier
Une fois le secrétariat fluidifié, le périmètre s’est étendu aux process métier de la PME. Le principe est resté le même : chaque process est confié à un agent dédié, qui sait l’exécuter de bout en bout en s’appuyant sur la machine IA et les connecteurs métier.
- L’onboarding d’un nouveau client : création de la fiche dans le CRM, ouverture d’un dossier dans la GED, envoi des documents contractuels à signer, programmation des relances en cas de retour tardif, notification du chef de projet.
- La relance des impayés : identification des factures en retard dans l’ERP, rédaction de la relance dans le ton adapté à l’historique client, envoi, suivi de la réponse, escalade vers la direction au bon moment.
- La préparation des dossiers techniques : collecte des pièces, vérification de leur complétude, mise en forme selon les standards de l’entreprise, archivage dans la GED.
- Le reporting commercial mensuel : extraction des chiffres dans le CRM et l’ERP, mise en forme dans le template habituel, rédaction des commentaires de performance, envoi à la direction et aux commerciaux concernés.
- Le tri et l’indexation documentaire : classification automatique des documents entrants (PDF, scans, e-mails), extraction des informations clés, dépôt dans le bon répertoire de la GED avec les bonnes métadonnées.
Chaque agent est cadré par des règles métier validées en interne. Il dispose d’une marge de manœuvre définie et d’un humain de référence pour les cas qui sortent du cadre. Rien ne se fait sans traçabilité.
Les avantages d’une machine IA hébergée en interne
L’option de la machine locale n’est pas un choix idéologique. C’est un choix d’architecture qui apporte des bénéfices très concrets, mesurables dès les premières semaines d’exploitation.
La confidentialité, par construction
Aucune donnée ne sort de l’entreprise. Les contrats restent dans l’entreprise, les e-mails restent dans l’entreprise, les bilans restent dans l’entreprise. Cette garantie est structurelle, pas contractuelle : elle ne dépend pas de la bonne foi d’un fournisseur ou de la lecture attentive de conditions générales de 40 pages.
Une conformité RGPD et AI Act simplifiée
Le règlement européen sur l’IA et le RGPD imposent une vigilance accrue sur le traitement des données personnelles par les systèmes d’intelligence artificielle. Avec une infrastructure locale, l’entreprise garde la maîtrise complète des traitements, de la finalité, de la durée de conservation, des droits d’accès. La documentation de conformité est radicalement plus simple à produire que dans un schéma cloud multi-fournisseurs.
Un coût total maîtrisé
Le coût d’une machine IA locale s’amortit généralement sur deux à trois ans, après quoi le coût marginal d’usage est très faible. À l’inverse, les abonnements cloud sont des charges récurrentes qui ne capitalisent rien. Pour une PME qui s’engage dans l’IA pour la durée, l’arbitrage économique est clair dès la deuxième année.
Une personnalisation profonde
La machine apprend les spécificités de l’entreprise — son vocabulaire, ses modèles, son historique client, ses procédures. Les agents s’appuient sur cette mémoire collective pour produire des réponses pertinentes, sans qu’il faille re-expliquer le contexte à chaque requête. L’IA devient progressivement celle de l’entreprise, pas un service générique partagé avec des millions d’utilisateurs.
L’indépendance vis-à-vis des fournisseurs
Pas de coupure de service en cas de panne d’un fournisseur tiers, pas de changement brutal de tarification, pas de retrait soudain d’un modèle. L’entreprise pilote sa feuille de route IA elle-même, à son rythme.
Les avantages spécifiques des agents IA autonomes
La différence entre un assistant IA classique et un agent autonome est fondamentale. L’assistant répond. L’agent agit. Cette nuance, en apparence simple, change radicalement la nature du gain.
L’exécution de tâches de bout en bout
Un agent ne se contente pas de produire un texte. Il déclenche les actions qui suivent : envoi du mail, mise à jour du CRM, dépôt du document dans la GED, notification de l’équipe concernée. Là où un assistant fait gagner 30% sur une tâche, un agent prend en charge la tâche entière.
Un fonctionnement en parallèle
Plusieurs agents peuvent travailler en même temps sur des sujets différents : pendant que l’un trie la boîte mail, un autre prépare un devis et un troisième relance les impayés. Le débit organisationnel est multiplié sans qu’il faille embaucher.
Un cadre clair et auditable
Chaque agent a un périmètre défini, des outils autorisés, des règles de validation. Toutes ses actions sont journalisées. Le dirigeant peut à tout moment savoir qui a fait quoi, quand, et pourquoi, agent ou humain. Cette traçabilité est précieuse pour la conformité comme pour la confiance interne.
Une montée en autonomie progressive
Les agents commencent en mode supervisé : leurs propositions sont validées par un humain. À mesure que la confiance s’installe et que les modèles sont calibrés sur les pratiques de l’entreprise, certains agents passent en mode autonome sur leurs périmètres maîtrisés. Le rythme est dicté par la direction, pas par un fournisseur.
Les risques que nous avons traités d’emblée
Déployer une infrastructure d’IA locale et des agents autonomes ne se résume pas à brancher un serveur. Plusieurs risques spécifiques ont été adressés dès la conception.
Côté prompt injection, un attaquant peut tenter de manipuler un agent en glissant des instructions cachées dans un e-mail ou un document. Nous avons mis en place des filtres d’entrée, des règles de validation et des limites d’action strictes pour qu’aucun agent ne puisse exécuter une commande dangereuse, même si on tente de l’y inciter.
Côté gouvernance des actions à grande échelle, un agent qui se trompe une fois sur cent peut faire beaucoup de dégâts s’il envoie cent e-mails par jour. Chaque agent dispose donc d’une enveloppe d’actions, de seuils de validation et d’alertes en cas de comportement anormal.
Côté sécurité de l’infrastructure, la machine IA est isolée du réseau public, accessible uniquement depuis l’intranet, avec authentification forte et journalisation complète. Les sauvegardes sont chiffrées et redondées.
Côté conformité, l’ensemble du dispositif a été documenté dans le registre des traitements, les analyses d’impact ont été menées, et la chaîne de responsabilité est claire pour chaque agent.
Ce que ce projet illustre de notre approche
Ce projet résume bien notre conviction chez AXALYS : l’IA en entreprise n’a de valeur durable que si elle est maîtrisée. Maîtrisée techniquement (on sait comment ça marche, on sait comment ça se sauvegarde, on sait comment ça se met à jour). Maîtrisée juridiquement (les données ne fuitent pas, la conformité est démontrable). Maîtrisée économiquement (les coûts sont prévisibles et capitalisent). Maîtrisée organisationnellement (les agents agissent dans un cadre clair, sous responsabilité humaine).
Cette approche, nous l’appliquons aussi bien à des PME qu’à des établissements scolaires, des structures publiques ou des marques grand public. La constante, c’est notre refus de l’IA-spectacle et notre exigence d’une IA qui sert réellement l’organisation, jour après jour, sans dépendance excessive à un fournisseur unique.
Un projet réplicable
L’architecture déployée chez cette PME est largement réplicable, avec des adaptations selon la taille et le secteur. Un cabinet d’expertise comptable, une étude notariale, un cabinet d’avocats, une agence d’assurance, une PME industrielle, une structure publique : toutes peuvent tirer profit de la combinaison « machine IA locale + agents autonomes » pour décharger leur secrétariat et automatiser leurs process métier, sans compromettre leur confidentialité.
Notre accompagnement
Vous portez un projet d’IA interne, une volonté d’automatiser votre secrétariat ou vos process métier, un besoin de souveraineté sur vos données ? Chez AXALYS, nous accompagnons les dirigeants, les marques, les commerçants, les artisans et les structures publiques sur la conception, le déploiement et l’exploitation d’infrastructures d’intelligence artificielle sur mesure. De l’audit à la mise en production, en passant par la sécurité, la conformité RGPD et AI Act, la formation des équipes et la définition de la gouvernance des agents. Parlons de votre projet.
Pour aller plus loin sur le sujet, consultez aussi nos articles : Machine IA en entreprise : pourquoi héberger votre intelligence artificielle en interne devient stratégique en 2026 et Agents IA en entreprise : pourquoi 2026 est l’année où l’IA passe de la conversation à l’action.