Meta onthult AI-supercomputer met 16.000 Nvidia A100-gpu’s – IT Pro – Nieuws

Meta heeft een nieuwe supercomputer getoond, die later dit jaar de snelste ‘AI-supercomputer’ ter wereld moet worden. Het systeem beschikt op dit moment nog over 760 clusters met in totaal 6080 Nvidia A100-gpu’s, maar dit wordt dit jaar uitgebreid naar 16.000.

Facebook-moederbedrijf Meta noemt de supercomputer AI Research SuperCluster, afgekort RSC, en deelt details in een blogpost. Momenteel beschikt het systeem over 700 Nvidia DGX A100-systemen die functioneren als nodes. Die systemen hebben ieder acht A100-gpu’s. Deze kaarten communiceren met elkaar via een Nvidia Quantum InfiniBand-fabric met een bandbreedte van 200Gbit/s. RSC beschikt verder over 175 petabyte aan Pure Storage FlashArray-opslag, 46PB aan cache en 10PB aan Pure Storage FlashBlade-opslag.

Volgens het bedrijf is RSC in de huidige fase tot 20 keer sneller dan zijn huidige systeem voor machine vision-taken. In de loop van dit jaar wordt het systeem nog verder uitgebreid. Volgens Meta zal de supercomputer dan over 16.000 gpu’s beschikken. Het Facebook-moederbedrijf heeft naar eigen zeggen verder een cache- en opslagsysteem ontworpen dat 16TB/s aan gegevens kan verwerken. Dat systeem moet op termijn met datasets van in totaal 1 exabyte overweg kunnen. Het systeem moet medio 2022 af zijn.

Meta wil de AI-supercomputer inzetten om systemen en AI-modellen te trainen die gebruikt kunnen worden voor het herkennen van beelden, taal en gesproken tekst, waarmee schadelijke content op zijn platformen opgespoord kunnen worden. RSC zal volgens het bedrijf in de toekomst ook gebruikt worden voor het bouwen van de ‘metaverse’.

Meta schrijft daarbij dat RSC geïsoleerd is van het internet en dat alle verbindingen lopen via Meta’s eigen datacenters. Content die wordt gebruikt door de AI-supercomputer om modellen te trainen, wordt volgens het bedrijf geanonimiseerd voor gebruik. Daarbij wordt volgens Meta eind-tot-eindversleuteling ingezet tussen het opslagsysteem en de gpu’s. De gegevens worden volgens het bedrijf alleen in-memory ontsleuteld en decryptiesleutels voor oudere gegevens worden volgens het bedrijf ‘regelmatig verwijderd’.