Centres de données traditionnels vs. centres de données compatibles avec l'IA : une nouvelle ère d'infrastructure

Alors que l’essor de l’IA remodèle les industries, les centres de données subissent une profonde transformation pour répondre aux demandes croissantes des charges de travail de l’intelligence artificielle (IA).



Les centres de données traditionnels fournissent depuis longtemps des environnements fiables pour la gestion de l’infrastructure informatique, mais l’émergence des centres de données IA révolutionne la façon dont nous abordons l’informatique, le stockage et l’infrastructure réseau.

Alors que l’IA continue de façonner les industries du monde entier, elle repousse les limites de ce que les centres de données peuvent accomplir, nécessitant de nouvelles approches en matière de conception, d’infrastructure, d’énergie et de ressources pour gérer ses besoins de haute densité.

Les centres de données traditionnels sont conçus pour héberger des serveurs, des systèmes de stockage, des équipements réseau et des infrastructures de refroidissement.

Ces installations sont conçues pour les charges de travail basées sur le processeur qui sont prévisibles, incrémentielles et moins gourmandes en énergie.

• Rapport coût-performance équilibré : Conçu pour l'informatique polyvalente avec une approche économique.

• Évolutivité fragmentée : Les ressources peuvent évoluer avec la croissance des applications, mais pas au rythme rapide requis par l'IA.

• Densité énergétique réduite : Les racks traditionnels consomment environ 5 à 10 kW par rack, avec des systèmes de refroidissement par air suffisants pour évacuer la chaleur.

• Infrastructure de câblage standard : Un modèle de câblage « feuille et colonne vertébrale » assure une communication réseau stable sans les exigences de bande passante des charges de travail d'IA.

• Charges de travail CPU basse consommation : Les charges de travail basées sur le processeur consomment beaucoup moins d'énergie que les charges de travail d'IA, qui nécessitent des solutions sur mesure pour une capacité élevée, des performances à la demande et un support spécialisé.

Les centres de données traditionnels ne sont tout simplement pas équipés pour gérer les exigences uniques de l’IA et des charges de travail informatiques accélérées.

Alors que l'IA continue de bouleverser les industries, la demande de centres de données spécialisés en IA s'accroît. Ces installations de nouvelle génération sont conçues sur mesure pour répondre aux besoins complexes et exigeants des charges de travail IA.

Contrairement à leurs homologues traditionnels, ces installations sont spécialement conçues pour gérer le calcul haute performance (HPC), les réseaux ultra-rapides et les systèmes de refroidissement avancés.

• Calcul haute performance (HPC) : Équipé de systèmes puissants intégrant des GPU, des FPGA et des ASIC pour des tâches de traitement de données et d’apprentissage automatique ultra-rapides. Les charges de travail d'IA s'appuient sur des GPU, des TPU et des NPU, conçus pour le traitement parallèle et le traitement massif de données.

• Capacité de stockage massive : Les applications d’IA génèrent d’importants volumes de données, nécessitant des systèmes de stockage dotés d’une capacité et d’un débit considérables. Des solutions de stockage hybrides avec SSD haute vitesse et des architectures distribuées sont donc nécessaires.

• Réseau ultrarapide : Les technologies réseau ultra-rapides et à faible latence, comme Ethernet à large bande et InfiniBand, facilitent le transfert rapide de données entre les nœuds de calcul et les systèmes de stockage.

• Refroidissement et gestion de l’énergie spécialisés : En raison de la haute densité et de la forte consommation d’énergie du matériel d’IA, des techniques de refroidissement avancées, comme le refroidissement liquide ou par immersion, sont utilisées pour éviter la surchauffe. Le refroidissement liquide, notamment le refroidissement direct sur puce et le refroidissement par immersion, est essentiel pour gérer la chaleur générée par les racks GPU densément peuplés. Une gestion intelligente de l'énergie est également nécessaire pour assurer une utilisation optimale de l'énergie.

• Densité de puissance supérieure : Les serveurs IA nécessitent de 5 à 10 fois plus d'énergie que les systèmes traditionnels, dépassant souvent 40 à 110 kW par rack.

• Évolutivité et flexibilité : Face à l'évolution rapide de la technologie IA, les centres de données IA sont conçus avec des configurations modulaires, des déploiements conteneurisés et une infrastructure définie par logiciel, permettant une adaptation rapide aux besoins changeants.

• Plus de fibre : Les serveurs IA nécessitent 4 à 5 fois plus de connexions fibre, nécessitant de la fibre multimode et des câbles optiques actifs pour une communication à haut débit et à faible latence.

Pour s'adapter à la nature dense et gourmande en données des charges de travail de l'IA, le matériel et les configurations des centres de données existants doivent être repensés :

• Matériel repensé : Les serveurs, les commutateurs, les câbles et le stockage doivent gérer de grandes quantités de données en temps réel.
• Réseau fédérateur reconfiguré : Une bande passante plus élevée est essentielle pour assurer une communication efficace entre les racks GPU et les systèmes de stockage.
• Éléments de conception révisés : Les systèmes de refroidissement, d'alimentation et de câblage doivent prendre en charge une densité et une interconnectivité accrues.

Pourquoi les charges de travail de l'IA nécessitent un câblage différent :

Les centres de données traditionnels suivent un modèle de câblage « feuille et colonne vertébrale », adapté aux charges de travail standard. Cependant, les charges de travail d'IA nécessitent une conception spécialisée en raison de leur volume de données élevé et de leurs besoins de calcul intensifs.

Les serveurs d'IA s'appuient sur des GPU haute performance qui nécessitent une connectivité transparente pour fonctionner comme un système unique et cohérent.

Ça augmente le besoin de :

• Connexions en fibre haute densité : Jusqu'à 4 à 5 fois supérieures aux configurations traditionnelles.
• Fibre multimode pour courtes distances : Idéale pour le câblage intra et inter-racks, avec des débits allant jusqu'à 400 Gbit/s.
• Câbles optiques actifs (AOC) : Pour simplifier les déploiements et prendre en charge la transmission de données à haut débit.

• Exigences en matière de puces : Les charges de travail d’IA s’exécutent sur des puces spécialisées telles que les GPU, les TPU et les NPU, conçues pour des performances extrêmes dans l’optimisation des algorithmes d’IA. Les processeurs traditionnels sont des puces polyvalentes, effectuant de nombreuses tâches à des niveaux moyens.

• Alimentation : Les centres de données alimentés par l’IA nécessitent beaucoup plus d’énergie, jusqu’à 40 à 110 kW par rack, contre 10 à 12 kW par rack dans les centres de données traditionnels. Certains systèmes explorent même des solutions d’alimentation de plus de 200 kW par rack. Si le matériel d’IA est plus économe en énergie par GPU, il nécessite une augmentation significative de la densité de puissance, ce qui affecte l’espace et la consommation d’énergie.

• Systèmes de refroidissement : Le refroidissement par air traditionnel est moins efficace pour les charges de travail d’IA. Les centres de données d'IA utilisent des systèmes de refroidissement avancés, comme le refroidissement liquide ou hybride, plus efficaces dans les environnements à haute densité et mieux équipés pour gérer l'augmentation de la consommation d'énergie et de la production de chaleur. Ces systèmes optimisent aussi mieux la consommation d'eau, bien qu'ils entraînent une consommation d'eau plus élevée.

• Systèmes de câblage : Les serveurs d’IA nécessitent une densité de câblage beaucoup plus élevée (4 à 5 fois plus de connexions à fibre optique) que les serveurs traditionnels. Une nouvelle architecture de câblage est nécessaire pour minimiser la latence et optimiser les performances.

Cela a également entraîné un changement de paradigme dans la conception des centres de données, rendant l’infrastructure compatible avec l’IA essentielle pour les entreprises qui cherchent à rester compétitives.

Cependant, les centres de données traditionnels ne disparaîtront pas : de nombreuses organisations adopteront probablement une approche hybride, combinant une infrastructure traditionnelle et optimisée par l’IA pour répondre à des besoins divers.

Si vous pensez que l'essor de l'IA n'est qu'une tendance, vous vous trompez : elle entraîne maintenant un changement fondamental dans la façon dont les entreprises fonctionnent.

De la formation de grands modèles linguistiques comme ChatGPT à l’exécution d’applications d’IA en temps réel, ces charges de travail nécessitent une infrastructure que les centres de données traditionnels ne peuvent pas prendre en charge.

En tant que chef de file canadien des solutions de câblage pour centres de données, CaTECH Systems est à l'avant-garde de cette évolution, aidant les entreprises à construire l'infrastructure nécessaire pour alimenter les centres de données de nouvelle génération.

Nous nous spécialisons dans la conception et la mise en œuvre d'infrastructures de câblage garantissant une faible latence, une bande passante élevée et des performances fiables pour les environnements pilotés par l'IA. Prenez rendez-vous pour en savoir plus.