Les modèles IA en entreprise ne se valent pas sur toutes les tâches

Pendant les premiers mois de l’IA générative, le choix semblait assez simple.

Une entreprise voulait intégrer l’intelligence artificielle ? Elle choisissait généralement l’un des grands modèles disponibles, puis construisait ses usages autour de lui.

ChatGPT et les modèles GPT ont ainsi profité d’une avance considérable. Puis Claude, Gemini, Mistral et plusieurs modèles open source ont rapidement progressé.

Le paysage est désormais beaucoup plus fragmenté.

Un modèle peut se montrer excellent pour écrire du code et moins intéressant pour analyser certains documents. Un autre sera rapide et peu coûteux sur une tâche simple. Un troisième pourra être retenu avant tout parce qu’il peut fonctionner sur l’infrastructure de l’entreprise.

Pour un dirigeant, la question n’est donc plus nécessairement : quel est le meilleur modèle d’IA ?

Elle devient : quel est le meilleur modèle pour cette tâche précise ?

C’est un changement important.

Car lorsqu’une entreprise commence à utiliser plusieurs modèles, elle ne choisit plus seulement un fournisseur. Elle doit construire une véritable politique d’utilisation de l’IA.

OpenAI, Anthropic et Google dominent, mais les positions bougent vite

Le marché lui-même encourage cette remise en question.

Selon l’étude 2025 de Menlo Ventures sur l’IA générative en entreprise, les sociétés auraient dépensé environ 37 milliards de dollars dans l’IA générative en 2025, soit 3,2 fois plus que l’année précédente.

Plus intéressant encore, aucun acteur n’écrase désormais totalement les autres.

Menlo estime qu’Anthropic représentait environ 40 % des dépenses liées aux API de grands modèles en entreprise en 2025. OpenAI pesait 27 % et Google 21 %.

À eux trois, ces fournisseurs concentraient donc environ 88 % des usages d’API LLM en entreprise suivis par l’étude.

Ces chiffres doivent rester prudents. Ils reposent sur une étude américaine auprès de décideurs et sur une estimation des dépenses.

Ils illustrent néanmoins une réalité : les rapports de force peuvent changer très vite.

En 2023, OpenAI représentait encore, selon Menlo, environ la moitié de ce marché. Deux ans plus tard, sa part estimée avait fortement reculé.

Choisir aujourd’hui un fournisseur comme s’il devait rester le meilleur pendant cinq ans devient donc difficile.

Les entreprises utilisent déjà plusieurs modèles

Cette logique multi-modèles n’est d’ailleurs pas nouvelle.

Dans son étude 2024, Menlo Ventures observait que les entreprises interrogées utilisaient généralement trois modèles fondamentaux ou davantage dans leurs systèmes d’IA.

Elles sélectionnaient ensuite le modèle selon le cas d’usage ou le résultat recherché.

Le principe paraît rationnel.

Une direction informatique ne choisit pas nécessairement le même logiciel pour sa comptabilité, son CRM, sa cybersécurité et ses ressources humaines.

Pourquoi devrait-elle obligatoirement utiliser le même modèle d’IA pour résumer des contrats, analyser des images, écrire du code et répondre aux clients ?

Le parallèle a toutefois ses limites.

Multiplier les logiciels augmente déjà la complexité d’un système d’information. Multiplier les modèles IA peut créer le même problème.

Mettre les modèles IA en entreprise en concurrence peut réduire les coûts

L’intérêt économique peut néanmoins devenir important.

Les prix des modèles varient fortement.

Surtout, un modèle très puissant n’est pas toujours nécessaire pour effectuer une tâche simple et répétitive.

Utiliser systématiquement le modèle le plus performant du marché pour classer un document ou extraire une date peut revenir à mobiliser un véhicule de course pour effectuer un trajet urbain.

Le coût devient alors inutilement élevé.

C’est précisément le raisonnement appliqué par Galadrim dans un projet réalisé pour un bureau d’expertises médicales dont les clients sont des assureurs santé.

L’entreprise devait traiter des dossiers PDF pouvant comporter de 50 à 500 pages, avec des rapports, formulaires, ordonnances, factures et courriers.

Le système devait découper les documents, identifier les dates, créer des résumés et sélectionner les pièces utiles.

Au départ, la solution reposait notamment sur Azure Document Intelligence et GPT-4o.

Galadrim a ensuite remplacé cette architecture par des modèles open source hébergés localement.

Un dossier de 530 pages : de 8,70 dollars à environ 45 centimes

Le résultat donne une idée de l’écart possible.

Sur un même dossier de 530 pages, le traitement via Azure Document Intelligence et GPT-4o demandait environ 45 minutes.

La nouvelle architecture locale a ramené ce temps à environ 30 minutes.

Soit un gain de vitesse de l’ordre de 50 %.

Surtout, Galadrim estime le coût du traitement à 8,70 dollars avec l’ancienne solution, contre environ 0,45 dollar de calcul GPU en local.

Présenté ainsi, l’écart semble spectaculaire.

Il faut cependant ajouter une information essentielle.

Le GPU n’est pas gratuit.

Le GPU coûte environ 650 dollars par mois

Galadrim utilise un GPU NVIDIA L40S de 48 Go.

Son coût est estimé à environ 0,90 dollar par heure. S’il fonctionne en permanence, la dépense approche donc 650 dollars par mois.

L’ancienne architecture cloud fonctionnait, elle, selon un principe de paiement à l’usage.

Autrement dit, le modèle local n’est pas automatiquement moins cher.

Pour un faible volume, l’entreprise paierait un GPU largement sous-utilisé.

En revanche, plus le nombre de dossiers augmente, plus le coût fixe devient intéressant.

Sur le cas étudié, Galadrim situe le point d’équilibre autour de 75 gros dossiers par mois.

C’est là que la logique économique du modèle local commence réellement à fonctionner.

Pour une PME, utiliser plusieurs modèles n’a pas toujours de sens

Cette nuance est importante.

L’idée selon laquelle toutes les PME devraient immédiatement connecter GPT, Claude, Gemini et plusieurs modèles open source serait probablement une mauvaise recommandation.

Galadrim le reconnaît d’ailleurs dans ses réponses à Business Times.

Pour une PME qui ne traite que quelques milliers de requêtes par mois, l’entreprise déconseille de construire un routage automatique complexe entre plusieurs modèles.

Pourquoi ?

Parce que l’économie réalisée sur les appels aux modèles peut être inférieure au coût de l’architecture nécessaire pour les gérer.

Il faut développer le système.

Ensuite, il faut le tester, le surveiller et le maintenir.

Chaque nouveau fournisseur ajoute également ses propres règles techniques.

Dans ce cas, la simplicité peut coûter moins cher que l’optimisation.

La logique change à plusieurs dizaines de milliers de requêtes

Selon Galadrim, le routage automatique commence à devenir économiquement pertinent à partir de plusieurs dizaines de milliers de requêtes par mois.

Il s’agit là encore d’un ordre de grandeur, pas d’une règle universelle.

Tout dépend du coût des modèles, du type de requêtes et de la valeur du traitement.

Une requête qui coûte quelques fractions de centime ne justifie pas la même architecture qu’une analyse qui mobilise un contexte massif et plusieurs appels successifs.

Le volume n’est donc pas le seul critère.

La diversité des usages compte également.

Une plateforme interne peut rapidement multiplier les besoins

Prenons une entreprise qui déploie un assistant IA à l’ensemble de ses salariés.

Un collaborateur veut résumer un document.

Un autre souhaite analyser un tableau.

Un développeur utilise l’outil pour écrire du code.

Un juriste lui demande de comparer des clauses contractuelles.

Pendant ce temps, l’équipe marketing génère des contenus et le service client classe des messages.

Le nombre de cas d’usage explose.

À ce stade, choisir manuellement un modèle pour chaque tâche devient difficile.

Un système de routage peut alors décider quel modèle appeler selon le besoin.

L’entreprise commence à créer une sorte d’aiguillage de l’intelligence artificielle.

Le meilleur modèle peut changer plusieurs fois dans l’année

Cette architecture apporte un autre avantage : la souplesse.

Le marché évolue extrêmement rapidement.

Un modèle peut prendre l’avantage sur le code pendant quelques mois. Un concurrent peut ensuite proposer une nouvelle version plus performante.

Les prix changent également.

Dans ces conditions, construire tout son système autour d’une seule technologie peut créer une dépendance.

Business Times l’évoquait récemment à propos des procédures qui touchent certains fournisseurs d’IA.

Dans notre article consacré aux poursuites visant Anthropic, nous expliquions qu’une entreprise devient dépendante d’un acteur susceptible de connaître des évolutions tarifaires, juridiques ou technologiques.

À lire sur Business Times : Sony et Warner poursuivent Anthropic pour l’IA Claude

Une architecture capable de changer de modèle réduit une partie de cette dépendance.

Mais elle ne la fait pas disparaître.

Le multi-modèles crée aussi de nouvelles dépendances

C’est le paradoxe.

Utiliser quatre fournisseurs évite de dépendre totalement d’un seul.

En revanche, l’entreprise doit désormais gérer quatre environnements.

Chaque fournisseur possède ses propres contrats, ses règles de conservation, ses tarifs, ses limites d’usage et ses changements de version.

Il faut aussi vérifier que le remplacement d’un modèle ne modifie pas les résultats.

Deux modèles recevant exactement la même consigne peuvent produire des réponses différentes.

La portabilité n’est donc jamais parfaite.

L’entreprise qui veut réellement mettre les fournisseurs en concurrence doit investir dans les tests.

Il faut mesurer les modèles avant de les remplacer

Le cas Galadrim montre bien cette exigence.

L’entreprise ne s’est pas contentée de constater que le modèle local semblait fonctionner.

Elle a construit un système d’évaluation sur plusieurs centaines de sous-documents.

La segmentation atteint un score F1 de 89,8 %. Le taux de dates exactement reconnues atteint 81,3 %.

La sélection des pièces utiles atteint 85,1 %.

Enfin, le taux de documents inventés sans correspondance est mesuré à seulement 0,4 %.

Ces chiffres ne sont pas tous supérieurs aux objectifs fixés.

Ils permettent justement de mesurer les écarts.

C’est cette logique qui importe pour une entreprise.

Changer de modèle parce qu’un benchmark public le classe premier ne suffit pas.

Il faut vérifier ses performances sur les données et les tâches réelles de l’entreprise.

Les benchmarks généraux ne remplacent pas les tests métier

Un grand modèle peut exceller sur des tests académiques tout en se montrer moins efficace sur une tâche interne très précise.

À l’inverse, un petit modèle spécialisé peut être largement suffisant.

Dans le cas étudié par Galadrim, le modèle principal retenu est Qwen3.6-35B-A3B, associé à GLM-OCR pour la lecture des documents.

Le premier utilise une architecture dite Mixture-of-Experts.

Sur ses 35 milliards de paramètres, seuls environ 3 milliards sont actifs lors d’un traitement donné.

Cela permet de réduire les besoins de calcul.

Les deux modèles peuvent ainsi fonctionner sur un seul GPU de 48 Go.

Pour une direction générale, le détail technique importe moins que la leçon économique : le modèle le plus gros n’est pas toujours le meilleur investissement.

Les modèles open source ajoutent la question de la souveraineté

Le coût n’était d’ailleurs pas la seule raison du changement.

Les documents traités dans le cas Galadrim contiennent des informations médicales sensibles.

Certains clients demandaient donc une infrastructure entièrement localisée en Suisse, sans acteur extra-européen dans le traitement.

L’hébergement local apporte ici un avantage évident.

Les données ne quittent pas l’infrastructure choisie pour l’application.

Cette logique ne signifie pas que toutes les API propriétaires utilisent les données professionnelles pour entraîner leurs modèles.

OpenAI indique, par exemple, ne pas utiliser par défaut les données envoyées via ses services professionnels et son API pour entraîner ses modèles.

Anthropic présente une politique comparable pour ses produits commerciaux.

Google indique également ne pas utiliser les données de Gemini Enterprise pour entraîner ses modèles dans les offres concernées.

Cependant, les entreprises doivent regarder au-delà de cette seule question.

Où sont stockées les données et combien de temps ?

Le contrat reste essentiel.

Une entreprise doit savoir où ses données transitent.

Elle doit également examiner les durées de conservation, les sous-traitants, les régions d’hébergement et les options de suppression.

Business Times a déjà détaillé ces points dans son guide consacré à l’IA et au RGPD.

À lire : IA en entreprise et RGPD, les règles à respecter avant de déployer un outil

Le choix d’un modèle ne peut donc pas être uniquement technique.

La sécurité, la conformité et le type de données traitées peuvent justifier une architecture différente selon chaque usage.

Les modèles IA en entreprise doivent être choisis selon le ROI

La vraie question devient finalement économique.

Les PME françaises commencent déjà à passer de l’expérimentation à des projets plus concrets.

Business Times rapportait récemment que la part de PME et ETI ayant lancé des projets d’IA était passée de 15 % à 55 % en deux ans dans une étude Siparex-Bpifrance.

À lire : Intelligence artificielle, les PME françaises passent à l’action

À mesure que les projets passent en production, les dirigeants vont donc devoir suivre de nouveaux indicateurs.

Combien coûte réellement chaque tâche ?

Quelle qualité obtient-on ?

Quel modèle est nécessaire ?

Et à partir de quel volume l’investissement dans une architecture plus complexe devient-il rentable ?

Ces questions sont beaucoup plus utiles qu’un simple classement général entre GPT, Claude et Gemini.

Près de deux milliards d’utilisateurs d’IA, mais pas 1,6 milliard d’utilisateurs uniques de ces cinq plateformes

Il faut également rester prudent avec les chiffres d’audience.

Le communiqué initial évoquait environ 1,6 milliard d’individus utilisant GPT, Claude, Gemini, Mistral ou Llama.

Galadrim nous indique ne pas disposer d’une source précise établissant ce total.

Il serait donc trompeur d’additionner simplement les audiences des différentes plateformes.

Une même personne peut utiliser ChatGPT le matin, Claude pour travailler et Gemini depuis son téléphone.

Menlo Ventures apporte toutefois un ordre de grandeur.

Son étude State of Consumer AI 2025, réalisée avec Morning Consult auprès de 5 031 adultes américains, estime qu’entre 1,7 et 1,8 milliard de personnes dans le monde ont déjà utilisé un outil d’IA.

Parmi elles, 500 à 600 millions en feraient un usage quotidien.

Il s’agit d’une extrapolation et non du comptage des utilisateurs uniques des cinq modèles cités.

Cette distinction mérite d’être conservée.

Il n’existe pas non plus un coût unique par utilisateur

Même prudence sur le prix.

Parler d’un coût compris entre 10 et 200 euros par utilisateur et par mois peut fournir un ordre de grandeur.

Mais cette approche mélange plusieurs réalités.

Un abonnement professionnel peut être facturé par utilisateur.

Une API est souvent facturée selon la consommation.

Enfin, une infrastructure locale repose surtout sur des coûts de calcul fixes ou variables.

Comparer ces trois modèles uniquement par « prix par siège » n’a donc guère de sens.

Pour les directions financières, il faut revenir au coût réel par usage.

Un utilisateur qui effectue cinq requêtes simples par jour ne coûte pas la même chose qu’un système qui analyse en permanence des milliers de documents.

Faut-il vraiment arrêter de choisir un fournisseur unique ?

La réponse est donc moins radicale que le titre pourrait le laisser penser.

Pour une petite entreprise et quelques usages simples, choisir un fournisseur principal peut rester la meilleure solution.

La simplicité a une valeur.

Il n’est pas nécessaire d’installer une infrastructure complexe simplement pour économiser quelques dizaines d’euros.

À l’inverse, dès que les volumes augmentent, que les tâches deviennent différentes ou que les données sont sensibles, la logique change.

Une entreprise peut alors avoir intérêt à mettre plusieurs modèles en concurrence.

Non pas pour utiliser tous les modèles en permanence.

Mais pour garder la possibilité de choisir.

C’est probablement là que se situe la véritable maturité en matière d’IA.

Ne plus demander quel modèle est le meilleur, mais quel modèle apporte le meilleur rapport entre qualité, coût, risque et indépendance pour chaque usage.

Business Times a interrogé Félix Monnier, AI Team Lead chez Galadrim, sur cette approche.

ENTRETIEN AVEC FÉLIX MONNIER, AI TEAM LEAD CHEZ GALADRIM

1. Un modèle open source peut-il réellement remplacer GPT-4o à moindre coût ?

Business Times : Vous citez le cas d’un acteur de l’assurance santé pour lequel GPT-4o aurait été remplacé par un modèle open source fonctionnant sur un seul GPU, avec une qualité équivalente, davantage de rapidité et un coût jusqu’à vingt fois inférieur. Pouvez-vous nous donner les chiffres précis : cas d’usage, modèle retenu, volume traité, coût avant/après, latence et critères utilisés pour mesurer la qualité ?

Félix Monnier :

Un dossier peut compter jusqu’à 500 pages

Cas d’usage : application métier sur mesure pour un bureau d’expertises médicales dont les clients sont des assureurs santé.

Un utilisateur dépose un dossier PDF composite de 50 à 500 pages mêlant rapports, formulaires, courriers, ordonnances et factures.

L’application le découpe en sous-documents, en extrait date et titre, produit un résumé et sélectionne les pièces utiles.

Sept étapes, dont la segmentation est l’étape pivot : une mauvaise découpe fausse tout ce qui suit.

Deux modèles sur un seul GPU

Modèles retenus : Qwen3.6-35B-A3B, Mixture-of-Experts – 3 milliards de paramètres actifs sur 35 –, quantizé en Q5_K_M, pour la segmentation et l’extraction.

GLM-OCR (THUDM) en Q8_0 pour l’OCR, retenu pour sa qualité sur l’écriture manuscrite, critique sur les formulaires.

Les deux cohabitent sur un seul GPU NVIDIA L40S 48 Go : environ 38 Go alloués et environ 10 Go de marge pour les pics de contexte.

Un modèle par tâche, pas de routage dynamique.

Le MoE donne le débit d’un modèle de 3 milliards de paramètres avec la connaissance d’un modèle de 35.

C’est ce qui rend le GPU unique viable.

45 minutes contre 30 minutes

Coût et latence, mesurés sur un même dossier de 530 pages :

Azure – Document Intelligence + GPT-4o :

• Temps : 45 minutes
• Coût du run : 8,70 dollars, soit environ 1,6 centime par page
• Coût fixe mensuel : 0, paiement à l’usage

Local – GPU L40S :

• Temps : 30 minutes, soit environ 1,5 fois plus rapide
• Coût du run : environ 0,45 dollar
• Coût fixe mensuel : environ 650 dollars pour un GPU à environ 0,90 dollar de l’heure utilisé 24 heures sur 24

Le coût local n’est pas nul.

Il correspond au temps machine rapporté au coût horaire du GPU. Trente minutes à un peu moins d’un dollar de l’heure font environ 50 cents.

Le facteur 20 porte donc sur le coût marginal par dossier, et il se matérialise à l’échelle.

Le seuil de rentabilité se situe autour de 75 gros dossiers par mois.

En dessous, le cloud à l’usage reste moins cher.

Au-delà, chaque dossier supplémentaire est traité à coût marginal quasi nul.

Une limite : les pics importants de charge

Limite assumée : un seul GPU plafonne autour de 15 pages par minute en charge maximale.

C’est adapté au traitement asynchrone à volume modéré, pas à un pic temps réel massif.

Comment Galadrim mesure la qualité

Un système compare chaque sortie du modèle local à une référence annotée sur plusieurs centaines de sous-documents.

La référence correspond à l’extraction historique par GPT-4o, consolidée par annotation.

Les principaux résultats sont :

Des écarts qui ne sont pas toujours des erreurs

Ces scores sont des mesures strictes et ils sous-estiment la performance réelle.

Sur la segmentation, une partie des écarts correspond à des cas qui peuvent se discuter humainement.

Un rapport unique peut, par exemple, contenir lui-même plusieurs documents. Deux annotateurs humains pourraient alors choisir des découpages différents.

Sur les titres, le verdict relève également de l’appréciation.

Enfin, la référence GPT-4o n’est pas une vérité absolue. Le juge estime parfois que le découpage du modèle local est meilleur que la référence.

Ces écarts ne constituent donc pas toujours des régressions.

2. À partir de quel volume une architecture multi-modèles devient-elle rentable ?

Business Times : Faire appel à plusieurs modèles permet de réduire certains coûts, mais ajoute également une couche de routage, de tests, de monitoring, de sécurité et de maintenance. Pour une PME traitant quelques milliers de requêtes par mois, cette complexité ne coûte-t-elle pas finalement plus cher que les économies réalisées ? À partir de quels volumes ou quels types de cas d’usage recommandez-vous réellement une architecture multi-modèles ?

Félix Monnier :

Pour une PME, nous ne préconisons pas de routage automatisé.

À ce volume, la complexité coûte plus cher que ce qu’elle fait économiser.

Plusieurs dizaines de milliers de requêtes

Le routage prend son sens quand une entreprise doit fournir une plateforme agentique à ses équipes.

Les cas d’usage sont alors trop nombreux et trop hétérogènes pour être cartographiés et arbitrés un par un, faute de ressources.

L’arbitrage automatique absorbe cette diversité.

En ordre de grandeur, cela devient économiquement justifié à partir de plusieurs dizaines de milliers de requêtes par mois.

3. Peut-on réellement rester indépendant en multipliant les fournisseurs ?

Business Times : Vous présentez le routage comme un moyen d’éviter le verrouillage auprès d’un fournisseur unique. Mais utiliser simultanément OpenAI, Anthropic, Google et des modèles open source signifie aussi multiplier les contrats, les politiques de données, les évolutions techniques et les risques de rupture. Comment une entreprise peut-elle réellement rester indépendante tout en garantissant confidentialité, reproductibilité des réponses et continuité de service lorsque les modèles changent tous les quelques mois ?

Félix Monnier :

L’histoire du verrouillage est un sujet en soi.

Note de la rédaction : la réponse transmise par Galadrim à cette question s’arrête à cette formulation. Nous n’en tirons donc pas de conclusion supplémentaire au nom de Félix Monnier.

Pour les entreprises, le sujet reste néanmoins important. Les politiques contractuelles varient selon les fournisseurs et les offres. OpenAI, Anthropic et Google indiquent actuellement ne pas utiliser par défaut les données de leurs offres professionnelles concernées pour entraîner leurs modèles. Les règles de conservation, d’hébergement et les options disponibles peuvent toutefois différer.

4. Peut-on réellement parler de 1,6 milliard d’utilisateurs uniques ?

Business Times : Le communiqué évoque près de 1,6 milliard d’individus utilisant GPT, Claude, Gemini, Mistral ou Llama. Les audiences des différentes plateformes se chevauchent fortement. Disposez-vous de la source permettant d’établir précisément les 1,6 milliard d’utilisateurs uniques évoqués ?

Félix Monnier :

Nous n’avons pas de source précise pour établir ce chiffre.

Volga a cité ce nombre.

La source la plus proche est l’étude Menlo Ventures, State of Consumer AI, publiée en juin 2025.

À partir des taux d’adoption de leur enquête, ils estiment entre 1,7 et 1,8 milliard d’utilisateurs d’IA dans le monde, dont 500 à 600 millions au quotidien.

Note de la rédaction : cette estimation concerne les utilisateurs d’outils d’IA au sens large. Elle ne permet pas d’affirmer que 1,7 ou 1,8 milliard de personnes utilisent spécifiquement GPT, Claude, Gemini, Mistral ou Llama.

5. Peut-on réellement parler d’un coût de 10 à 200 euros par utilisateur ?

Business Times : Le communiqué évoque également une fourchette de 10 à 200 euros par utilisateur et par mois. Nous la traiterons plutôt comme un ordre de grandeur, les coûts étant très différents entre abonnement par siège, consommation API et infrastructure propre.

Félix Monnier :

Selon les modes de déploiement, le coût observé va de quelques dizaines d’euros par utilisateur et par mois pour un abonnement par siège à des ordres de grandeur très supérieurs dès qu’on passe sur de la consommation API ou de l’infrastructure dédiée.

Dans ces cas, le coût ne se compte plus par utilisateur mais par volume traité.

6. Quelle est aujourd’hui la fonction de Félix Monnier chez Galadrim ?

Business Times : Le communiqué vous présente comme AI Team Lead, tandis que la page équipe actuellement accessible sur le site de Galadrim vous indique comme ingénieur IA. Quel est votre intitulé actuel ?

Félix Monnier :

AI Team Lead. Il s’agit d’une promotion récente.

Note de la rédaction : lors de notre vérification, la page publique de l’équipe Galadrim affichait encore « Ingénieur IA » pour Félix Monnier. Galadrim nous confirme directement sa promotion récente au poste d’AI Team Lead.