De plus en plus d’entreprises demandent si elles peuvent avoir « leur propre IA » au bureau. C’est possible. La question utile n’est pas de savoir si c’est possible, mais ce qu’il faut pour que cela fonctionne bien dès le premier jour et continue de fonctionner un an plus tard.
Pourquoi avoir un serveur d’IA dans votre propre bureau ?
Les raisons habituelles sont au nombre de trois :
- Les données ne sortent pas de votre réseau. Documents, requêtes et réponses restent sur votre machine.
- Contrôle. Vous décidez quel modèle vous utilisez, quand il est mis à jour et qui y a accès.
- Coût prévisible. Vous payez l’équipement et son entretien, pas chaque requête.
En contrepartie, la puissance est celle que vous achetez et il faut entretenir l’équipement. Pour beaucoup d’entreprises, il suffit d’avoir les données sur votre propre serveur et l’IA à l’extérieur, sur un GPU dédié en Europe. Nous le verrons plus bas.
Que faut-il pour le mettre en place ?
- Un GPU avec suffisamment de mémoire. C’est la pièce qui fait le travail de l’IA. Ce qui compte le plus, c’est sa mémoire : le modèle doit tenir dedans.
- Le reste du serveur à la hauteur. Mémoire système, disque rapide pour les modèles et les documents, et une alimentation qui supporte le GPU.
- Un endroit adapté. Une machine avec GPU chauffe, fait du bruit et consomme. Mieux vaut la placer dans une pièce ventilée que sous un bureau, et avec un onduleur.
- Réseau. Connecté au réseau du bureau, avec un accès uniquement depuis l’intérieur ou via une connexion chiffrée.
- Software. Le système, les pilotes du GPU, le programme qui sert le modèle et les modèles choisis.
Quel GPU me faut-il pour un serveur d’IA ?
Cela dépend de deux choses : le modèle que vous voulez utiliser et le nombre de personnes qui vont l’utiliser en même temps. Un modèle plus grand nécessite plus de mémoire sur le GPU ; plus de personnes en même temps nécessitent plus de marge. Il n’y a pas de réponse universelle, et méfiez-vous de celui qui vous la donne sans vous demander ce que vous allez faire.
Le plus sage est de commencer par la tâche : lire des factures, répondre avec vos documents, rédiger ou résumer des appels ne demandent pas la même chose. À partir de là, on choisit le modèle et, avec le modèle, le GPU. En cas de doute, il est plus sage d’essayer d’abord sur un GPU loué que d’acheter trop.
Acheter le serveur ou le louer ?
Les deux options ont du sens. En location, le serveur peut se trouver dans un centre de données européen ou dans votre propre bureau :
| Acheté, dans votre bureau | Loué, en Europe | |
|---|---|---|
| Où se trouvent les données | Sur votre réseau | Sur un serveur qui vous est dédié, en Europe |
| Investissement initial | Vous achetez l’équipement | Vous n’achetez rien |
| Si cela ne suffit pas | Il faut augmenter ou changer l’équipement | On change de GPU |
| Maintenance | Vous le contractez séparément ou votre équipe s’en charge | Peut être inclus dans la location |
| Bruit, chaleur et pannes | Dans vos bureaux | Ce n’est pas votre problème |
Il existe aussi un juste milieu : vos données sur un serveur dans vos bureaux et l’IA sur un GPU externe. C’est ce que nous appelons chez BionicAdri le mode hybride.
Qui assure la maintenance d’un serveur d’IA ?
C’est la partie que l’on oublie le plus. Un serveur d’IA a besoin de :
- Mises à jour du système et de sécurité, sans casser ce qui fonctionne.
- Pilotes du GPU à jour et compatibles avec le programme qui sert les modèles.
- Modèles à jour : de meilleures versions sortent et il convient de les tester avant de changer.
- Surveillance : savoir si le service répond, si le disque se remplit ou si le GPU chauffe, et agir avant que quelqu’un ne se retrouve sans IA.
- Sauvegardes de la configuration et des documents.
- Accès : qui se connecte, depuis où et avec quelles autorisations.
Si votre entreprise dispose d’une équipe informatique qui a du temps, elle peut le faire. Sinon, il vaut mieux le confier à un prestataire dès le départ que de le découvrir à la première panne.
Ce qui a tendance à mal se passer
- Acheter le GPU avant de savoir quel modèle sera utilisé.
- L’installer, qu’il fonctionne, puis ne plus y toucher jusqu’à ce qu’il cesse de fonctionner.
- Le laisser ouvert sur Internet sans nécessité.
- Ne pas le tester avec des tâches réelles de l’entreprise avant de le valider.
Comment nous procédons chez BionicAdri
En plus d’ADRI et de la plateforme, nous travaillons chaque jour avec des serveurs d’IA équipés de GPU, en commençant par les nôtres. C’est pourquoi nous proposons les deux options : si vous achetez le serveur, nous l’installons et, si vous le souhaitez, nous en assurons la maintenance (mises à jour, surveillance et réparations) ; si vous préférez ne rien acheter, nous vous le louons déjà installé, avec l’IA privée en fonctionnement et la maintenance et les mises à jour incluses, sur nos serveurs en Europe ou dans vos bureaux. Le processus est celui de tout projet sur mesure : nous étudions votre cas, nous vous proposons un équipement, un modèle et un emplacement, nous l’installons et nous le testons avec vos tâches.
Vous trouverez les explications dans IA sur mesure pour les entreprises. Si vous voulez qu’elle réponde à partir de vos documents, consultez RAG sur mesure pour les entreprises. Ou parlez-nous de votre cas.
Questions fréquentes
Combien coûte un serveur d’IA pour l’entreprise ?
Cela dépend du modèle, du nombre de personnes qui l’utilisent en même temps et du fait que vous l’achetiez ou le louiez. C’est pourquoi cela se fait sur devis : nous vous donnons le montant avant que vous ne décidiez quoi que ce soit.
Puis-je utiliser un ordinateur classique comme serveur d’IA ?
Pour tester, parfois oui. Pour qu’une équipe l’utilise chaque jour, il faut un GPU avec suffisamment de mémoire pour le modèle et une machine conçue pour fonctionner sans interruption.
Ai-je besoin d’une connexion Internet ?
Pour utiliser l’IA, non : elle peut fonctionner uniquement au sein de votre réseau. Pour le mettre à jour et en assurer la maintenance à distance, une connexion chiffrée est nécessaire ; elle peut être limitée à ces tâches.
Qui assure la maintenance du serveur ?
Si vous le louez avec nous, la maintenance et les mises à jour sont incluses. Si vous l’achetez, vous pouvez nous confier la maintenance ou la laisser à votre équipe informatique.
- IA sur mesure
- GPU
- Sécurité