La refonte des centres de données IA entre dans l’ère des contraintes électriques : de l’empilement de GPU à la course aux infrastructures en 800 V DC

La refonte des centres de données IA entre dans l’ère des contraintes électriques : de l’empilement de GPU à la course aux infrastructures en 800V DC

L’infrastructure IA entre dans une nouvelle phase : le goulet d’étranglement n’est plus seulement l’approvisionnement en puces, mais aussi la puissance électrique, le refroidissement et la capacité de distribution. Selon les informations rapportées par le *Los Angeles Times* sur le secteur, à mesure que des acteurs comme Nvidia continuent de lancer des GPU et des systèmes de racks toujours plus performants, la densité de puissance des centres de données IA augmente rapidement. L’architecture traditionnelle des centres de données, conçue autour des CPU et des charges générales, ne parvient déjà plus à répondre aux besoins des nouvelles charges de travail d’entraînement et d’inférence de l’IA. Le rapport mentionne également que Nvidia, CoreWeave, Google, Vertiv, GE Vernova et d’autres entreprises promeuvent des solutions telles que le refroidissement liquide, la simplification de l’alimentation et de la distribution électrique, ainsi que les systèmes en courant continu 800V, afin de réduire les pertes et d’améliorer la puissance de calcul délivrée par unité de surface.

L’importance de ce changement ne tient pas seulement au fait que de « plus grands salles informatiques » apparaissent, mais au fait que la logique de conception des infrastructures informatiques d’entreprise est en train d’être réécrite : à l’avenir, les plateformes cloud, les centres de données privés et les environnements hybrides devront peut-être d’abord répondre à « combien d’électricité est disponible, comment dissiper la chaleur, comment se connecter de manière stable au réseau », avant de se poser la question « combien de GPU peut-on installer ». Pour les CTO, les CIO et les architectes d’entreprise, cela signifie que l’évaluation de faisabilité des projets IA passe d’une question de logiciel et d’approvisionnement à une question de coordination entre énergie et infrastructure.

Analyse technique : pourquoi les centres de données IA sont différents des centres de données traditionnels

Les centres de données traditionnels hébergent principalement des applications d’entreprise, des bases de données, du stockage, des services web et des outils de collaboration bureautique ; ces charges de travail reposent généralement sur le CPU et la densité de puissance des baies reste relativement maîtrisable. Les données sectorielles citées par le rapport indiquent qu’une baie de serveurs standard peut n’avoir besoin que de 25 à 40 kilowatts, alors que les baies IA, en raison du déploiement dense de GPU, voient leurs besoins en puissance grimper rapidement. À mesure que la taille des modèles, l’entraînement parallèle et le débit d’inférence continuent de croître, la puissance d’une seule baie est passée d’une phase de faible densité à des niveaux de l’ordre de la centaine de kilowatts, et pourrait à l’avenir frôler le mégawatt.

Le changement clé derrière cela est que l’IA n’est pas un problème que l’on résout simplement en « faisant tourner plus de machines virtuelles ». L’entraînement et l’inférence s’appuient sur des clusters de GPU hautement parallèles, qui nécessitent un réseau à plus grande bande passante, un accès mémoire plus rapide et une alimentation plus stable. Autrement dit, l’infrastructure IA est un système d’ingénierie conçu conjointement autour du calcul, du réseau et de l’électricité. Si l’un de ces éléments prend du retard, la performance globale est limitée.

Le rapport souligne également un fait souvent négligé : parmi l’électricité entrant dans un centre de données, une part importante n’est pas directement utilisée pour le calcul, mais est consommée par les systèmes de refroidissement, le transport électrique sur longue distance et les conversions successives via plusieurs niveaux de transformation. Avec l’augmentation de la densité de puissance, ces pertes s’amplifient encore. C’est pourquoi le secteur commence à étendre son objectif d’optimisation, en passant de « l’efficacité des serveurs » à « l’efficacité de la chaîne complète, du réseau électrique à la puce ».

Analyse de l’impact sur les entreprises : le budget de l’infrastructure IA n’est plus seulement un achat de capacité de calcul

Pour les utilisateurs d’entreprise, cette tendance aura un impact direct sur la structure du CAPEX et de l’OPEX.

Premièrement, les dépenses d’investissement augmentent et sont avancées. Les projets informatiques traditionnels portent généralement sur les serveurs, le stockage et les licences logicielles, tandis qu’un centre de données IA nécessite des investissements simultanés dans les équipements de distribution électrique, les systèmes de refroidissement liquide, la rénovation des salles informatiques, l’alimentation de secours et des capacités de raccordement au réseau électrique de plus haut niveau. Autrement dit, avant de déployer une plateforme IA, les entreprises doivent parfois d’abord investir dans « l’infrastructure de l’infrastructure ». Cela élève le seuil initial, ce qui est particulièrement visible pour les entreprises qui souhaitent construire elles-mêmes une plateforme d’inférence ou un cloud privé IA.

Deuxièmement, les dépenses d’exploitation s’étendent de la facture d’électricité à la gestion de l’énergie. Lorsque la puissance des baies augmente, le prix de l’électricité, la charge de pointe, l’efficacité du refroidissement et la stabilité du raccordement au réseau deviennent des variables de coût à long terme. L’article mentionne que Nvidia collabore avec des sociétés de logiciels d’efficacité énergétique comme Emerald AI afin d’éviter, lors des pics de consommation, une pression excessive sur le réseau. Cela montre que l’exploitation de l’infrastructure IA ressemble de plus en plus à une tâche de « planification énergétique », et pas seulement à de l’exploitation informatique.

Troisièmement, le rythme de déploiement est contraint par l’électricité et les autorisations. Même si l’entreprise dispose du budget, elle ne peut pas nécessairement étendre immédiatement sa capacité. La capacité du réseau, les installations de transformation, les conditions foncières, la réglementation locale et les réactions de la communauté à la consommation électrique des centres de données peuvent tous retarder la livraison. Pour les entreprises qui dépendent de la rapidité de mise en ligne des capacités IA, cela signifie que le « cycle d’achat de puissance de calcul » pourrait à nouveau s’allonger, et que la fenêtre de planification doit s’ouvrir plus tôt.

Quatrièmement, les dimensions de sécurité et de conformité augmentent simultanément. Lorsque les entreprises déploient des centres de données de manière distribuée pour se rapprocher de l’énergie ou des énergies renouvelables, la gouvernance des données interrégionale, la conformité aux clouds souverains, les stratégies de sauvegarde et la conception de reprise après sinistre doivent tous être réévalués. La plateforme IA n’est plus seulement un pool de calcul, mais un système complexe qui franchit les frontières de l’électricité, du réseau et de la réglementation.

Analyse de la concurrence du marché : les fournisseurs cloud et la chaîne d’approvisionnement en infrastructures sont en train d’être redistribués

Ce changement ne se produit pas seulement à l’intérieur des salles informatiques, il est en train de remodeler l’ensemble de la chaîne d’approvisionnement.

Du côté des fournisseurs cloud, le cœur de la concurrence passe de la « couverture régionale » à la « disponibilité de l’électricité ». Dans le passé, AWS, Azure et Google Cloud se disputaient le nombre de régions mondiales, la qualité du réseau et l’écosystème de services, mais à l’ère de l’IA, celui qui pourra obtenir plus rapidement une alimentation électrique stable, déployer des baies à haute densité et fournir le refroidissement liquide et des clusters GPU sera plus susceptible d’obtenir des charges de travail IA à forte valeur. Pour les clients entreprises, les critères de choix des plateformes cloud évolueront également : il ne s’agira plus seulement du prix et des fonctionnalités, mais aussi de savoir s’il existe une capacité IA suffisante, si le déploiement à haute densité est pris en charge, et si l’infrastructure énergétique et de refroidissement est suffisamment mature.La coopération entre les fabricants de puces et de serveurs se resserre également. Selon les rapports, Nvidia pousse vers des puces et des systèmes de rack à plus forte intégration, et expérimente des conceptions d’équipements simplifiant les chemins d’alimentation. Cela signifie que les fabricants de puces ne se contentent plus de vendre des cartes d’accélération, mais définissent désormais les standards d’architecture des centres de données. Pour Dell, HPE, Supermicro et autres intégrateurs de serveurs et de systèmes, c’est à la fois une opportunité et une pression : si, à l’avenir, les baies AI deviennent de plus en plus standardisées et modulaires, ceux qui pourront proposer en premier une solution complète autour des nouveaux systèmes d’alimentation et de refroidissement seront les plus susceptibles de s’imposer comme point d’entrée des projets.

L’importance des entreprises de l’électricité et des équipements énergétiques augmente. Traditionnellement, la « couche invisible » des infrastructures de centres de données est constituée des UPS, de la distribution électrique, du refroidissement et des équipements de transformation. Avec l’exploration de solutions en courant continu 800V, de transformateurs à semi-conducteurs et de schémas comportant moins d’étapes de conversion, le rôle des fournisseurs d’infrastructures comme GE Vernova et Vertiv devient encore plus crucial. Pour les opérateurs de centres de données, il ne s’agit pas seulement d’acheter des équipements, mais de choisir la trajectoire architecturale des dix prochaines années.

Observation des tendances du secteur : le centre de données natif IA est en train de se former

À long terme, cette nouvelle vague de changements pourrait conduire à quatre tendances.

1. Le cloud natif IA remplacera l’idée d’un « cloud généraliste auquel on ajoute l’IA ». Par le passé, les plateformes cloud ajoutaient des GPU à une architecture de serveurs existante ; à l’avenir, le cloud IA pourra être conçu dès le départ à partir de l’alimentation, du refroidissement, du réseau et de l’agencement des racks. Les charges de travail IA deviendront le point de départ de l’architecture, et non une fonction supplémentaire.

2. Le refroidissement liquide passera d’une option à une configuration courante. À mesure que la densité de puissance des GPU augmente, l’efficacité marginale du refroidissement par air diminuera. Le refroidissement liquide n’est pas un simple outil d’économie d’énergie, mais une condition préalable pour assurer le fonctionnement durable du calcul à haute densité. Pour les entreprises, la conception des salles serveurs et le choix des équipements devront intégrer le refroidissement liquide dans la planification standard.

3. L’alimentation en courant continu et la réduction des niveaux de conversion deviendront une orientation importante. Les rapports indiquent que les multiples conversions entre le réseau électrique et la puce entraînent des pertes d’énergie, et que le secteur explore des chemins d’alimentation avec moins d’étapes ainsi que des solutions en 800V DC. Si ces solutions mûrissent, l’efficacité énergétique des centres de données, l’utilisation de l’espace et la capacité d’intégration des énergies renouvelables pourraient toutes s’améliorer.

4. Les contraintes énergétiques influenceront la répartition géographique des déploiements IA. Lorsque la capacité du réseau électrique devient une ressource clé, les infrastructures IA ne se concentreront pas nécessairement dans les grandes régions cloud traditionnelles, mais pourront se déplacer vers des zones où l’électricité est plus abondante, les autorisations plus rapides et la structure énergétique plus favorable. Pour les entreprises, cela affectera la résidence des données, l’architecture de reprise après sinistre et les stratégies multicloud.

Référence pour les décisions d’entreprise : à quoi faut-il prêter attention maintenant

• Pour les entreprises qui prévoient d’accroître leurs capacités IA, la priorité actuelle n’est pas de courir aveuglément après des GPU toujours plus puissants, mais de mettre en place un « cadre d’évaluation de la faisabilité des infrastructures IA ». Il devrait au minimum inclure les dimensions suivantes :- Prévision des besoins en puissance de calcul : déterminer combien de GPU et quelle densité de racks sont nécessaires respectivement pour l’entraînement, le fine-tuning et l’inférence ;
• Évaluation de la capacité électrique : vérifier si les centres de données existants et les régions cloud cibles peuvent soutenir la croissance des 12 à 24 prochains mois ;
• Adéquation des solutions de refroidissement : déterminer si un refroidissement liquide est nécessaire, ainsi que la durée et le coût des travaux de rénovation ;
• Choix du mode de déploiement : savoir si le cloud public, le datacenter hébergé, le cloud privé ou le cloud hybride est le plus approprié ;
• Exigences de conformité et de souveraineté : vérifier si les données circulent entre régions et si le secteur est soumis à une réglementation ;
• Maîtrise des coûts de pointe : trouver un équilibre entre le prix de l’électricité, l’extension de capacité et le taux d’utilisation.

Sous cet angle, le budget de l’infrastructure IA est en train de devenir une « dépense contrainte » dans la transformation numérique des entreprises, et sa priorité pourrait progressivement se rapprocher de celle des systèmes réseau, de sécurité et des ERP centraux.

CloudTechDaily Insight

Le sens le plus important de ce changement sectoriel est qu’il révèle la véritable logique sous-jacente du cloud à l’ère de l’IA : la concurrence ne se joue plus seulement sur les fonctionnalités logicielles ou les paramètres des modèles, mais sur l’électricité, le refroidissement et la conception de l’infrastructure. Pour la stratégie informatique des entreprises, les capacités IA ne sont plus un service que l’on peut simplement « acheter et utiliser » ; elles constituent un projet de long terme qui nécessite la coordination du réseau électrique, des salles informatiques, des régions cloud et des systèmes d’exploitation.

Au cours des cinq prochaines années, les véritables leaders des plateformes cloud et des organisations informatiques d’entreprise ne seront peut-être pas ceux qui possèdent le plus de GPU, mais ceux qui sauront intégrer la puissance de calcul, l’énergie et l’exploitation en une capacité de livraison stable. En d’autres termes, le prochain gagnant de l’infrastructure IA ne sera probablement pas simplement un fabricant de puces ou un fournisseur cloud, mais une entreprise capable de redéfinir les centres de données en un système d’infrastructure « priorité à l’électricité, natif IA, et durable ». Pour les CTO et les CIO, il faut dès maintenant intégrer l’électricité et le refroidissement à la feuille de route IA ; sinon, le goulot d’étranglement de demain pourrait ne pas être le modèle, mais le rack impossible à mettre sous tension.