Les charges de travail d'inférence de l'IA agentique redéfinissent les exigences réseau, selon KPMG qui souligne que la fibre optique et l'informatique de périphérie sont essentielles.

Contexte

Phil Wong, responsable technique de KPMG US, a récemment indiqué dans une interview accordée à RCR Wireless News qu'avec le passage des entreprises de la phase d'entraînement de l'IA à l'inférence, notamment avec l'essor de l'IA agentielle, les infrastructures réseau connaîtront une nouvelle phase de restructuration de la demande. Wong souligne que les charges de travail d'inférence ne se limiteront plus aux centres de données centralisés traditionnels, mais circuleront entre les environnements cloud d'entreprise et les infrastructures de calcul dédiées à l'IA, et s'étendront même jusqu'aux périphéries du réseau. Ce changement aura un impact profond sur les réseaux optiques, l'implantation des centres de données et l'architecture informatique des entreprises.

Analyse technique : exigences spécifiques de l'IA agentielle en matière d'architecture réseau

L'IA agentielle désigne des systèmes d'IA capables d'exécuter de manière autonome des tâches complexes, d'interagir avec l'environnement et de prendre des décisions. Contrairement à l'IA passive traditionnelle, l'IA agentielle doit combiner en temps réel données, contexte et mémoire, ce qui impose des exigences réseau très différentes :

• Bande passante élevée : Lors de son exécution, l'IA agentielle doit fréquemment accéder à des volumes massifs de données métier dans le cloud d'entreprise (comme les enregistrements CRM, ERP) et effectuer des calculs d'inférence sur des clusters GPU dédiés à l'IA. Ces échanges de données continus entre environnements nécessitent une très grande bande passante, surtout lorsque les requêtes d'inférence incluent des entrées multimodales (texte, image, vidéo).
• Faible latence : De nombreux scénarios d'IA agentielle exigent des réponses en millisecondes, par exemple pour le service client en temps réel, le trading automatisé ou le contrôle industriel. Si la latence du réseau est trop élevée, la prise de décision autonome de l'IA perdra son efficacité temporelle.
• Distribution en périphérie : Lorsque l'IA physique (comme les robots, la conduite autonome) arrivera à maturité, les charges de travail d'inférence devront être déplacées vers des nœuds périphériques proches des utilisateurs finaux ou des équipements, élargissant encore la couverture réseau.

Wong explique : « L'IA agentielle fonctionne au mieux lorsqu'elle combine données, contexte et mémoire. Le trafic entre le cloud traditionnel (où se trouvent les données et les systèmes d'enregistrement des entreprises) et le calcul dédié à l'IA augmentera considérablement. De plus, avec le développement de l'IA physique, le trafic d'inférence se diffusera davantage vers la périphérie du réseau, plus près des utilisateurs finaux. »

Analyse de l'impact pour les entreprises

Impact sur les coûts (CAPEX / OPEX)

• Pour les entreprises, les besoins réseau de l'IA agentielle se traduiront directement par de nouvelles dépenses d'investissement.- Côté CAPEX : les entreprises doivent investir dans des connexions Internet à plus large bande passante (comme la fibre dédiée ou une mise à niveau SD-WAN), et peuvent déployer des serveurs d'inférence locaux ou des nœuds GPU sur les sites périphériques. Pour les entreprises adoptant une stratégie de cloud hybride, les coûts de transfert de données entre clouds deviendront un coût opérationnel croissant.
• Côté OPEX : le coût de l'électricité est le plus grand défi opérationnel actuel. Wong souligne que la disponibilité de l'électricité est le principal facteur limitant l'expansion de l'infrastructure IA, plus encore que les retards de la chaîne d'approvisionnement ou la pénurie de main-d'œuvre. Les entreprises doivent évaluer la fiabilité électrique des sites de centres de données et envisager l'achat d'énergies renouvelables pour stabiliser les OPEX.

Impact du déploiement et de l'exploitation

• Sélection du site du centre de données : les marchés traditionnels des centres de données (comme le nord de la Virginie, la Silicon Valley) sont confrontés à une pénurie de terrains et d'électricité. Wong indique que les développeurs installent de plus en plus de grands campus IA en dehors des hubs, ce qui nécessite la construction de nouvelles routes de fibres à haut débit. Pour les entreprises, cela signifie que le centre de données hébergeant les charges de travail IA peut être éloigné de leur siège social ou de leurs principales zones d'activité, augmentant la latence du réseau et la complexité opérationnelle.
• Complexité opérationnelle : avec la propagation du trafic d'inférence vers la périphérie, les entreprises doivent déployer des outils de surveillance réseau distribuée et d'IAOps (AIOps) pour gérer la santé du réseau à travers le cloud, les centres de données centraux et les nœuds périphériques.
• Sécurité et conformité : la circulation des données entre environnements augmente les risques de fuite de données. L'IA agentique peut accéder à des données sensibles de l'entreprise, les entreprises doivent garantir le chiffrement des transmissions, le contrôle d'accès et la conformité en matière de souveraineté des données, en particulier dans les scénarios transfrontaliers.

Stratégies d'adoption à surveiller

Les entreprises doivent évaluer progressivement la ligne de base réseau des cas d'utilisation de l'IA agentique. Pour les tâches à faible exigence temps réel, elles peuvent privilégier les connexions cloud existantes ; pour les besoins à haute fréquence et faible latence, elles doivent planifier des connexions fibre dédiée ou des réseaux privés. Parallèlement, il est recommandé d'utiliser des services de bande passante à la demande et de connexion cloud (comme AWS Direct Connect, Azure ExpressRoute) pour répondre de manière flexible à la croissance du trafic.

Analyse de la concurrence sur le marché

Fournisseurs de cloud hyperscale

• AWS, Azure, Google Cloud se font concurrence pour lancer des instances d'inférence IA et des services de edge computing. Étant donné que le trafic de l'IA agentique doit traverser le cloud traditionnel et le calcul dédié à l'IA, ces géants bénéficieront de leurs réseaux mondiaux et de leurs dorsales fibre privées (comme le réseau Andromeda de Google). Cependant, leurs emplacements traditionnels de centres de données pourraient être confrontés à des goulots d'étranglement électriques, les obligeant à investir dans de nouveaux campus hyperscale (comme l'investissement de Microsoft dans le Wisconsin).
• Oracle Cloud a attiré l'attention ces dernières années dans l'inférence IA grâce à son cloud distribué et au réseau OCI, sa capacité d'interconnexion multi-cloud pourrait devenir un point de différenciation.### Opérateurs de réseaux et de fibres

• Equinix, Digital Realty en tant que REITs de centres de données, doivent proposer davantage de colocations à haute densité et forte capacité électrique, accompagnées de fibres noires ou de connexions cloud. Leur succès dépendra de leur capacité à acquérir des terrains en dehors des zones où l'électricité est limitée.
• Lumen Technologies, Zayo, Crown Castle et autres opérateurs de fibres sont confrontés à un dilemme : construire de nouvelles routes vers des parcs d'IA éloignés nécessite des investissements massifs, mais le retour sur investissement est incertain, car ces routes ne traversent pas les centres de population traditionnels, ce qui rend difficile la capture de clients diversifiés. Wong déclare sans détour : « Le défi pour les opérateurs de fibres est de savoir s'ils peuvent obtenir un bon rendement à partir de ces routes qui ne passent pas par les centres commerciaux traditionnels. »

Fournisseurs d'équipements réseau

• Cisco, Arista, Juniper verront leurs commutateurs et routeurs haut de gamme bénéficier de la croissance du trafic est-ouest dans les centres de données, ainsi que de l'augmentation de la demande de DCI (interconnexion entre centres de données). Les équipements supportant les modules optiques 800G/1,6T et le contrôle de congestion intelligent seront privilégiés.
• NVIDIA concurrence également via ses plates-formes réseau InfiniBand et Spectrum-X, ces solutions optimisées pour les clusters d'IA étant adoptées par les hyperscalers, mais les clients d'entreprise pourraient avoir besoin de solutions Ethernet plus génériques.

Plates-formes de edge computing

• Cloudflare, Fastly, AWS Wavelength et autres fournisseurs de nœuds périphériques bénéficieront de la descente de l'inférence Agentic AI, mais devront offrir des capacités d'accélération GPU.

Observation des tendances du secteur

Le transfert de poids du réseau, de l'entraînement à l'inférence

Actuellement, les dépenses d'investissement dans l'infrastructure IA se concentrent principalement sur la puissance de calcul (GPU). Wong souligne que chaque gigawatt de nouvelle capacité de calcul correspond à un besoin de connectivité, et qu'avec la transition des charges de travail de l'entraînement vers l'inférence et l'Agentic AI, les besoins de connectivité augmenteront encore. Cela signifie que le taux de croissance des investissements dans l'infrastructure réseau rattrapera celui des investissements dans le calcul dans les années à venir.

Le goulot d'étranglement électrique crée une nouvelle logique de localisation des centres de données

À l'échelle mondiale, la consommation électrique des centres de données IA suscite des inquiétudes. Selon des organisations comme Uptime Institute, la demande électrique d'un seul cluster d'IA hyperscale peut atteindre des centaines de mégawatts, tandis que le cycle de mise à niveau du réseau électrique dure souvent 5 à 10 ans. Cela pousse les développeurs à rechercher des zones non traditionnelles, comme le Midwest américain ou l'Europe du Nord, mais cela entraîne également de nouveaux besoins de déploiement de fibres.

Consommation de tokens et rééquilibrage de l'efficacité de l'IAWong prédit que, bien que l'adoption de l'IA et de l'IA agentique continuera de stimuler une forte croissance de la demande en calcul et en stockage, avec l'augmentation de l'utilisation et du coût des tokens, les entreprises et les fournisseurs commenceront à gérer plus activement la consommation. L'optimisation des modèles, l'ordonnancement des inférences et les techniques de compression des tokens deviendront des domaines d'investissement importants. Cela indique que la demande réseau ne gonflera pas sans limites, mais évoluera en parallèle avec les gains d'efficacité.

Cloud souverain et localisation des données

L'IA agentique implique des données sensibles d'entreprise, et de nombreux pays exigent que les données restent sur leur territoire. Cela stimule le développement de clouds souverains et de centres de données régionaux, ajoutant encore à la complexité du découpage du réseau.

CloudTechDaily Insight

L'IA agentique n'est pas simplement une mise à niveau des algorithmes d'IA, mais change fondamentalement le mode d'interaction entre le cloud, le réseau et le calcul. Cette analyse de KPMG révèle plusieurs signaux clés : premièrement, le réseau n'est plus un « complément » après le calcul, mais devient l'un des trois goulots d'étranglement de l'infrastructure IA, aux côtés de l'électricité. La stratégie IT des entreprises doit avancer la planification du réseau, en synchronisation avec l'achat de GPU et le choix du cloud. Deuxièmement, la dispersion de l'implantation des centres de données remodelera la carte des réseaux de fibre optique, les opérateurs étant confrontés à l'incertitude du retour sur investissement, tandis que les entreprises devront supporter des cycles de déploiement plus longs et des coûts de connectivité plus élevés. Troisièmement, les exigences de temps réel de l'IA agentique obligent les entreprises à repenser les capacités de périphérie de leur architecture IT – toutes les inférences ne doivent pas nécessairement aller dans le cloud, et toutes les données ne doivent pas être centralisées. À l'avenir, l'architecture d'entreprise évoluera vers un modèle à trois couches « entraînement central + inférence en périphérie + accès multicloud aux données », ce qui pose un défi sans précédent à la vision stratégique des CTO et CIO. CloudTechDaily estime que 2026 deviendra un tournant dans les investissements en infrastructure réseau IA : les entreprises et fournisseurs qui auront anticipé le déploiement de connexions à haute bande passante et faible latence obtiendront un avantage structurel dans la course à l'IA agentique qui s'annonce.