De opkomst van kunstmatige intelligentie (AI) heeft de manier waarop datacenters functioneren fundamenteel veranderd. Deze technologie, die inmiddels alomtegenwoordig is in vrijwel iedere sector van de economie en overheid, stelt datacenters voor uitdagingen op het gebied van energiebeheer, koeling, connectiviteit en ruimtegebruik die gerust uniek genoemd mogen worden. Panduit maakte een technische analyse van de vraag hoe AI de infrastructuur van datacenters verandert en wat dit betekent voor de toekomst.
AI-geoptimaliseerde workloads, zoals machine learning en deep learning, vereisen enorme rekenkracht. Dit vertaalt zich in een exponentiële stijging van het energieverbruik. Terwijl traditionele datacenter workloads afhankelijk zijn van centrale verwerkingseenheden (CPU’s), zijn AI-toepassingen afhankelijk van grafische verwerkingseenheden (GPU’s) en tensor processing units (TPU’s), die aanzienlijk meer energie verbruiken.
Een typische CPU heeft een energieverbruik van ongeveer 100 watt, terwijl high-end GPU’s zoals de NVIDIA A100 en H100 gemakkelijk 400 tot 800 watt kunnen verbruiken, aldus Panduit. Datacenters die honderden of zelfs duizenden GPU’s implementeren, zien hun energieverbruik dan ook aanzienlijk stijgen. Voor sommige hyperscale datacenters, zoals die van Google of Amazon, kan het jaarlijkse energieverbruik oplopen tot tientallen megawatt.
Koelingsuitdagingen en innovaties
De toename in energiebehoefte dwingt datacenters om hun energie-infrastructuur te moderniseren. Dit omvat de installatie van geavanceerde uninterruptible power supply (UPS)-systemen en het gebruik van redundante energiebronnen om downtime te minimaliseren. Nieuwe technologieën zoals gelijkstroom (DC) distributiesystemen worden steeds populairder vanwege hun efficiëntie en lagere verliezen vergeleken met traditionele wisselstroom (AC) systemen.
Panduit noemt de verhoogde warmteproductie als gevolg van het hogere energieverbruik een grote zorg. Traditionele luchtkoelingstechnologieën bereiken hun limieten bij rack-dichtheden van meer dan 20 kilowatt. AI-racks kunnen echter zo maar 30 tot 50 kilowatt of zelfs meer verbruiken, waardoor nieuwe en innovatieve koelingsmethoden essentieel worden.
Vloeistofkoeling en immersion cooling
Vloeistofkoeling is een van de meest effectieve oplossingen voor de koeluitdagingen van AI-systemen. Hierbij wordt een koelvloeistof direct naar de hitte producerende componenten geleid. Een meer geavanceerde variant, immersion cooling, dompelt complete servers onder in een thermisch geleidende vloeistof. Deze technologie kan de warmteoverdracht tot vijf keer efficiënter maken dan luchtkoeling. Dat stelt datacenters in staat om beduidend hogere rack-dichtheden te ondersteunen.
Naast vloeistofkoeling investeren datacenters in energie-efficiënte klimaatbeheersingssystemen. Panduit noemt onder andere innovaties zoals warmteterugwinning, waarbij de gegenereerde warmte wordt hergebruikt voor andere doeleinden zoals stadsverwarming, helpen niet alleen bij koeling, maar dragen ook bij aan de duurzaamheid van het datacenter.
Connectiviteit en netwerkinfrastructuur
AI vereist niet alleen rekenkracht, maar ook een uiterst snelle gegevensoverdracht. Dit heeft geleid tot een snelle adoptie van nieuwe netwerktechnologieën die de prestaties verbeteren en de latentie verlagen. Waar traditionele workloads voornamelijk afhankelijk waren van Ethernet-netwerken, stappen AI-geoptimaliseerde datacenters over naar InfiniBand-netwerken. Deze technologie biedt niet alleen een hogere bandbreedte (tot 800 Gbps) maar ook een aanzienlijk lagere latency, wat essentieel is voor real-time AI-berekeningen.
De toenemende vraag naar hogere snelheden en lagere latency heeft ook geleid tot een versnelde implementatie van glasvezelbekabeling. Glasvezel is niet alleen toekomstbestendig, maar ondersteunt ook de extreem hoge datasnelheden die AI-workloads vereisen. Bij het ontwerpen van netwerkinfrastructuren voor AI-datacenters is een zorgvuldig kabelbeheer essentieel om signaalverlies en interferentie te minimaliseren.
Ruimtebeheer en fysieke infrastructuur
De fysieke inrichting van datacenters verandert eveneens onder invloed van AI, stelt Panduit vast. Niet alleen is er meer ruimte nodig voor de installatie van extra racks en koelsystemen, maar ook de interne lay-out en structuur van datacenters wordt opnieuw ontworpen.
Wat volgens Panduit ook meespeelt is het feit dat voor AI geoptimaliseerde racks niet alleen een grotere densiteit kennen, ze zijn bovendien ook zwaarder. Die extra gewichtslast van de hardware en vloeistofkoelsystemen vereist vaak versterkte racks en vloeren. In sommige datacenters kiest men er daarom voor de apparatuur te spreiden over meerdere verdiepingen om de belasting beter te verdelen.
Om flexibel te blijven in een als gevolg van AI steeds sneller veranderende IT-omgeving, kiezen steeds meer datacenteroperators voor modulair opgezette datacenterontwerpen. Deze modules bestaan uit vooraf gebouwde units die eenvoudig kunnen worden toegevoegd of aangepast om te voldoen aan de veranderende eisen van AI-workloads.
Beheer, monitoring en automatisering
Een ander belangrijk aspect van AI in datacenters is de implementatie van geavanceerde beheer- en automatiseringssystemen. Deze software helpt operators bij het monitoren en optimaliseren van de prestaties in real-time.
Ironisch genoeg wordt AI hierbij zelf gebruikt om datacenters te beheren. Door middel van machine learning kunnen operators patronen herkennen in energieverbruik, koelefficiëntie en netwerkprestaties. Deze inzichten stellen datacenters in staat om proactief problemen op te sporen en op te lossen voordat ze een impact hebben op de bedrijfsvoering.
Met behulp van sensoren en AI-analyses zijn datacenters onderhoudsbehoeften ook beter te voorspellen en te plannen. Dit minimaliseert onverwachte storingen en maximaliseert de uptime.
Toekomstige trends
De snelle technologische vooruitgang in AI brengt met zich mee dat datacenters blijven evolueren. Alleen al het feit dat de strikte scheiding die we tot nu toe zien tussen het trainen van een AI-model en het bevragen ervan (inferencing) al aan het vervagen is, betekent dat IT-hardware die tot nu toe uitsluitend bedoeld was om aan gebruikers de kans te geven vragen te stellen aan AI-chatbots vermoedelijk toch ook weer zwaarder uitgevoerd moeten gaan worden. Zo blijft de infrastructuur van datacenters de komende jaren volop in beweging.
Enkele trends die Panduit voor de komende jaren belangrijk noemt, zijn:
- Edge computing: Het decentraliseren van dataverwerking dichter bij de bron om de latentie te verminderen.
- Duurzaamheid: De integratie van hernieuwbare energiebronnen en koolstofneutraliteit.
- Kwantumcomputing: Hoewel nog in de kinderschoenen, kan dit een nieuwe revolutie teweegbrengen in datacenter-ontwerpen. De eerste kwantumcomputers zijn inmiddels al in gebruik en ook Nederland kent binnenkort een dergelijk systeem (bij Surf in Amsterdam).
Conclusie
Artificial Intelligence heeft de spelregels voor veel datacenters veranderd, aldus Panduit. De technologische vereisten op het gebied van energie, koeling, connectiviteit en ruimtebeheer vereisen aanzienlijke investeringen en het toepassen van nieuwe technologische oplossingen. Door proactief te anticiperen op deze veranderingen, kunnen datacenters niet alleen de uitdagingen van vandaag aan, maar zich ook positioneren voor de kansen van morgen.
Bovendien is inmiddels wel duidelijk dat de toekomst van datacenters onlosmakelijk verbonden is met de groei van AI. Datacenteroperators die deze realiteit omarmen, zullen een cruciale rol spelen in de verdere ontwikkeling van deze technologie.