Le nouveau pari de Cisco pour l’IA : réinventer les data centers

L’intelligence artificielle est un ogre. Son besoin de données et de puissance de calcul est insatiable, transformant le monde à une vitesse fulgurante.

Mais cet appétit a une contrepartie bien réelle : l’espace, la puissance et le refroidissement nécessaires pour l’alimenter. Aujourd’hui, même les plus grands data centers atteignent leurs limites physiques, créant un goulot d’étranglement qui menace de freiner l’innovation.

Face à ce défi monumental, une nouvelle approche émerge : le « scale-across », ou la distribution des charges de travail IA sur plusieurs sites géographiquement distants. C’est dans cette arène que les géants de la tech s’affrontent.

Cisco vient de lancer une offensive majeure avec un routeur spécialement conçu pour cette nouvelle ère. Alors, que propose ce nouvel équipement et peut-il vraiment résoudre le casse-tête de l’infrastructure IA ? C’est ce que nous allons voir ensemble.

L’IA est devenue trop grande pour un seul bâtiment

Pour bien comprendre l’enjeu, il faut visualiser l’échelle d’une infrastructure IA moderne. L’entraînement d’un grand modèle de langage, comme ceux qui animent les chatbots ou les outils de génération d’images, mobilise des milliers de processeurs surpuissants fonctionnant de concert.

Cette concentration génère une chaleur colossale et consomme des quantités d’électricité astronomiques.

Les limites physiques des centres de données traditionnels

Les centres de données, autrefois symboles de capacité infinie, heurtent aujourd’hui un mur bien tangible. Le premier obstacle est l’espace physique.

Mais même avec de la place, les réseaux électriques locaux peinent à fournir l’énergie requise, et les systèmes de refroidissement ne parviennent plus à évacuer efficacement la chaleur produite. Nous arrivons à un point où il n’est plus possible de simplement ajouter des machines au même endroit.

Du « scale-up » au « scale-across » : une nouvelle ère pour l’IA

Historiquement, l’industrie a répondu aux besoins de croissance de deux manières. Le « scale-up » consiste à rendre chaque système individuel plus puissant. Le « scale-out », lui, vise à connecter davantage de systèmes au sein d’un même data center.

Ces deux stratégies atteignant leurs limites, une troisième voie s’impose : le « scale-across ». L’idée n’est plus de tout concentrer en un seul point, mais de répartir l’infrastructure sur plusieurs data centers, parfois situés dans des villes ou des régions différentes.

Cela crée un super-ordinateur distribué, mais soulève un nouveau défi : comment connecter ces sites de manière fiable et ultra-rapide ?

Pourquoi les routeurs classiques ne suffisent plus pour l’IA ?

Connecter deux data centers n’a rien de nouveau. Cependant, les charges de travail de l’intelligence artificielle se comportent de manière très différente du trafic internet habituel.

C’est cette particularité qui rend les équipements de routage traditionnels inadaptés.

Le trafic IA, un défi unique

Le trafic généré par l’entraînement d’un modèle IA est « bursty », c’est-à-dire qu’il se manifeste par des rafales massives et soudaines de données, suivies de périodes de calme relatif. Imaginez une autoroute conçue pour un trafic fluide et constant, soudainement submergée par des vagues gigantesques de véhicules.

Si le réseau n’est pas capable d’absorber ces pics, des embouteillages se forment. Pour l’IA, cette congestion réseau signifie que des milliers de processeurs graphiques (GPU), qui coûtent une fortune, se retrouvent à l’arrêt, attendant des données qui n’arrivent pas.

Chaque seconde d’inactivité représente une perte financière et un retard considérable sur les projets.

Vitesse, intelligence et efficacité : le trio indispensable pour l’IA

Les routeurs traditionnels sont souvent spécialisés. Certains excellent dans la vitesse pure, d’autres dans la gestion de trafic complexe, mais il est rare de trouver un équipement qui combine les deux de manière optimale tout en restant sobre sur le plan énergétique.

Pour l’interconnexion des data centers IA, les trois sont indispensables : une bande passante massive, une gestion intelligente des pics de trafic et une consommation électrique maîtrisée pour ne pas aggraver la pression sur les budgets énergétiques.

Cisco 8223 : la réponse conçue pour l’interconnexion IA

C’est précisément pour répondre à ce besoin que Cisco a dévoilé son système de routage 8223. Loin d’être un équipement généraliste, il a été pensé de A à Z pour les défis spécifiques du « scale-across ».

Au cœur du système : la puce Silicon One P200

Le cerveau de l’opération est la nouvelle puce P200 de Cisco. Elle permet au routeur 8223, logé dans un châssis compact de trois unités de rack (3RU), de proposer 64 ports de 800 gigabits chacun.

Ces chiffres se traduisent par une capacité de traitement phénoménale, capable de gérer des flux de données qui se mesurent en exaoctets par seconde, soit des milliards de milliards d’octets.

La mémoire tampon, l’arme secrète contre la congestion

La véritable innovation de la puce P200 réside dans sa capacité de mise en mémoire tampon profonde (deep buffering). Pensez-y comme à un bassin de rétention qui se remplit lors d’un orage violent pour éviter les inondations.

Lorsque le réseau est submergé par une rafale de données IA, les tampons du routeur 8223 absorbent temporairement l’excédent. Ce mécanisme permet de lisser le trafic et d’éviter la congestion, garantissant que les précieux GPU restent alimentés en données en continu.

Performance et sobriété énergétique

Dans un contexte où chaque watt compte, l’efficacité énergétique est primordiale. Le format compact du 8223 lui permet d’atteindre une efficacité proche de celle d’un commutateur (switch) tout en offrant les fonctionnalités avancées d’un routeur.

Il supporte également des optiques cohérentes 800G, lui permettant d’établir des connexions fiables entre des sites distants de près de 1 000 kilomètres.

Un écosystème en pleine ébullition pour l’IA

Cisco n’est pas seul sur ce marché prometteur. Sa proposition entre en concurrence directe avec les offres de deux autres poids lourds, créant une véritable course à l’innovation pour dominer l’infrastructure de l’IA de demain.

Une course à trois géants : Cisco, Nvidia et Broadcom

Broadcom a été le premier à dégainer avec sa puce « Jericho 4 », suivi de près par Nvidia et sa plateforme « Spectrum-XGS ». L’arrivée de Cisco avec son portefeuille Silicon One, déjà adopté par des acteurs majeurs comme Microsoft et Alibaba Cloud, officialise une bataille de titans.

Chacun cherche à imposer sa technologie comme le standard de l’interconnexion IA.

L’importance de la programmabilité et de la sécurité

Un aspect souvent sous-estimé est la durabilité de l’investissement. Les protocoles et les besoins de l’IA évoluent si vite qu’un matériel rigide devient rapidement obsolète.

La puce P200 de Cisco est entièrement programmable, ce qui signifie qu’elle peut être mise à jour pour supporter de nouveaux standards sans nécessiter de remplacement physique. C’est une assurance pour l’avenir.

De plus, le système intègre un chiffrement résistant aux ordinateurs quantiques, anticipant les menaces de sécurité de demain sur des liaisons longue distance.

Le défi posé par la croissance exponentielle de l’IA est moins une question de logiciel que d’infrastructure. La capacité à connecter efficacement des infrastructures distribuées est devenue la clé de voûte de l’innovation future. Avec son routeur 8223, Cisco ne propose pas seulement un équipement plus rapide, mais une solution pensée pour la nature spécifique et exigeante du trafic IA.

La véritable bataille ne se jouera peut-être pas uniquement sur les spécifications techniques, mais sur la capacité de chaque acteur à fournir un écosystème complet, incluant le logiciel, le support et des options d’intégration flexibles.

Et vous, quel acteur voyez-vous dominer ce marché important pour l’avenir de l’IA ?

Simone

Simone, rédactrice principale du blog, est une passionnée de l’intelligence artificielle. Originaire de la Silicon Valley, elle est dévouée à partager sa passion pour l’IA à travers ses articles. Sa conviction en l’innovation et son optimisme sur l’impact positif de l’IA l’animent dans sa mission de sensibilisation.