De impact van GenAI op datacenter-infrastructuur: Wat verandert er voor de installateur?
Artificial Intelligence (AI) en Machine Learning (ML) transformeren nu al sectoren en helpen bij het aanpakken van diverse vraagstukken. Generative AI (GenAI), powered bij deep neural networks gaat nog een stap verder en biedt nieuwe mogelijkheden binnen AI. De uitdaging welke hierbij moet worden opgelost is de infrastructuur om de enorme rekenkracht nodig voor AI-modellen te realiseren. Stroom, koeling en netwerk connectiviteit, gelijk aan een corridor in het datacenter nu in één kast! Onze partner The Siemon Company zet op een rij wat dit betekent voor de inrichting van moderne serverruimtes.
De verschuiving van standaard CPU-servers naar krachtige GPU-clusters (zoals NVIDIA-systemen) is essentieel om AI-modellen te trainen. Voor de installateur betekent dit dat de traditionele 'best practices' voor bekabeling en koeling niet langer volstaan.
De drie belangrijkste bottlenecks in kaart
Volgens de analyse van Siemon dwingt GenAI ons om kritisch naar drie aspecten van het fysieke ontwerp te kijken:
- Bandbreedte en latency: AI-workloads vereisen real-time communicatie met minder dan 20ms vertraging (latency). We zien een versnelde overstap naar 400G, 800G en 1,6T verbindingen, waarbij de kwaliteit van de glasvezelverbinding direct invloed heeft op de rekenprestaties van het cluster.
- Power en koeling: Het stroomverbruik per rack stijgt fors. Waar 5 tot 10 kW per rack de norm was, vraagt een AI-cluster tussen de 30 kW en 100 kW per rack. Dit vereist niet alleen zwaardere stroomvoorziening en UPS-systemen, maar maakt ook de overstap naar liquid cooling vaak noodzakelijk om de hitte af te voeren.
- Advanced netwerkprotocollen: Waar ethernet de access laag connecteerd wordt InfiniBand toegepast in de back-end voor de directe verbinding tussen GPU-nodes, vanwege de lagere latency en hogere doorvoer.
AI-ready bouwen met Siemon
Siemon heeft hun portfolio specifiek afgestemd op deze High-Performance Computing (HPC) omgevingen. Voor installateurs liggen er kansen om klanten te adviseren over:
- Ultra-Low Loss (ULL) Fiber: Het LightVerse® systeem van Siemon minimaliseert signaalverlies, wat cruciaal is om de stabiliteit van 800G-verbindingen te garanderen.
- High-Speed Interconnects: Direct Attach Cables (DAC) en Active Optical Cables (AOC) voor de kortste, snelste verbindingen tussen nodes.
- Datacenter services: Siemon ondersteunt met een wereldwijd servicenetwerk bij het ontwerpen en realiseren van een AI-ready datacenter-infrastructuur.
Toekomstbestendig advies
Wij willen graag in onze rol als leverancier benadrukken dat dit het moment is om het gesprek aan te gaan over schaalbaarheid. Een netwerk dat vandaag 'voldoet', kan morgen de bottleneck zijn voor de AI-ambities van jouw organisatie. Door nu te kiezen voor componenten die 800G en hogere vermogens ondersteunen, bouw je een fundament dat jarenlang meegaat.
Bij Forehand ondersteunen we je met de technische ontwerpen van Datacenters, inclusief de zekerheid van een systeemgarantie tot 25 jaar.
Heb je een project waarbij AI-capaciteit een rol speelt?
Neem contact met ons op. Wij helpen je graag bij het vertalen van deze technische eisen naar een concreet en gecertificeerd installatieplan!