AMD a concocté un processeur EPYC personnalisé chargé en HBM3 pour Microsoft Azure

Voici de quoi vous passer l’envie de trop frimer avec votre Ryzen 7 9800X3D, un processeur certes déjà bien doté en cache L3 pour les petits joueurs que nous sommes. Pour équiper les machines virtuelles Azure HBv5 de Microsoft, AMD a concocté des puces EPYC qui n’usurpent pas leur qualificatif : fini le « simple » 3D V-Cache des Genoa-X et Milan-X, cette fois, les processeurs embarquent directement de la HBM3.

Custom custom, des machins recyclés ouais

Au même titre qu’Intel qui utilise cet argument pour promouvoir ses Xeon 6 supportant la DDR5 MRDIMM, Microsoft accuse la bande passante d’être désormais le boulet qui empêche les performances de s’envoler.

La société expose en préambule :

Pour de nombreux clients HPC, les performances de la mémoire des serveurs standard sont devenues l'obstacle le plus important pour atteindre les niveaux souhaités de performance de la charge de travail (time to insight) et de rentabilité. Pour surmonter ce goulot d'étranglement, Microsoft et AMD ont collaboré pour développer un processeur EPYC de 4e génération personnalisé doté d'une mémoire à large bande passante (HBM). Dans une VM Azure HBv5, quatre de ces processeurs travaillent conjointement pour fournir près de 7 To/s de bande passante mémoire ».

Avec de telles puces, la HBM3 joue donc un rôle similaire un peu similaire à celui du 3D V-Cache. Seulement elle n’augmente pas le cache L3 ici, mais fait office d'une sorte de cache L4.

Chaque VM HBv5 reçoit quatre de ces CPU AMD personnalisés. Une VM HBv5 met à disposition 450 Go de HBM3, 352 cœurs Zen 4 cadencés à 4 GHz (mais avec le SMT désactivé), et le double de la bande passante Infinity Fabric normalement disponible pour les CPU EPYC, allègue Microsoft. L’InfiniBand Quantum-2 de NVIDIA assure une commutation réseau de 800 Gb/s.

Microsoft évoque donc 352 cœurs Zen 4 répartis sur quatre processeurs, soit 88 cœurs pour chaque CPU. En réalité, il s’agit de processeurs 96 cœurs ; 8 cœurs assurent un rôle d'orchestration ou d'hyperviseur au sein de la VM.

Cette hypothèse est corroborée par Serve The Home ou encore par Matthew Connatser de The Register. En fait, ces « processeurs personnalisés » sont des MI300C, des variantes d’Instinct MI300A dépourvues d’unités de traitement CDNA 3 ayant quatre CCD à 24 cœurs chacun et qui avaient fait l'objet d'une fuite en août 2023.

Mais peu importe après tout ; de tels processeurs resteront chasse gardée des VM Azure, a précisé Glenn K. Lockwood, ingénieur chez Microsoft.

Et si vous vous demandez pourquoi de telles puces EPYC + HBM n’ont pas vu le jour avant, Phil Park, ingénieur chez AMD, a listé quatre raisons principales sur Bluesky.

Les voici, dans l’ordre :

« 1. EPYC s'est concentré sur les marchés à fort volume, c'est pourquoi on ne voit pas d'EPYC avec plus de deux sockets » ;

« 2. Vous ne pouvez pas remplacer vos contrôleurs DDR5 et ajouter des contrôleurs/piles HBM et vous en contenter. Le HBM impose certains choix de conception (par exemple, chaque pile HBM3 nécessite 16 canaux 64 bits) » ;

« 3. Flexibilité : avec l'HBM, il n'est pas possible d'augmenter la capacité ou d'avoir des versions moins coûteuses avec moins de canaux » ;

« 4. En général, les CPU n'ont pas besoin d'autant de bande passante » ;

Hélas, pas un mot à propos de la question que tout le monde se pose : « 5. Can It Run Crysis ? »