北森瓦版

北森瓦版 - Northwood Blog (Author : 北森八雲. Since July 10, 2006.)

HBM3を搭載したMicrosoft Azure向けのカスタムEPYC―EPYC 9V64H

2024/11/24(Sun)

AMD crafts custom EPYC CPU with HBM3 memory for Microsoft Azure – CPU with 96 Zen 4 cores and 450GB of HBM3 may be repurposed MI300C, four chips hit 7 TB/s [Updated]（Tom's Hardware）

EPYC 9V64HはHPCにフォーカスしたモデルで、96-coreの“Zen 4”と128GBのHBM3を同じパッケージに搭載している。競合に対して上回る性能を実現すべく設計されており、メモリ帯域やメモリレイテンシが重要視されるワークロードでの使用を念頭に置き、Microsoft Azureと連携して開発したものである。AMDのChiplet architecrureによりEPYC 9V64Hは容易に実現することができた。EPYC 9V64HはInstinct MI300XやMI300Aでも使われているSocketSH5を用いる。

　
Tom's Hardwareの記事中にInstinct MI300Cという記述があるとおり、EPYCを名乗るがその実態はInstinctに近い。Instinct MI300 seriesは64MBのInfinity CacheとHBM3メモリコントローラを搭載するI/O die (IOD) の上にCDNA 3アーキテクチャのAccelerator Complex Die (XCD) を2ダイないしは、“Zen 4”世代のCPU Complex die (CCD) を3ダイ搭載したものが基本単位となる。Instict MI300XであればXCD×2＋IODの単位が4セット、Instinct MI300AであればXCD×2＋IODの単位が3セットとCCD×3＋IODの単位が1セットで構成される。そしれそれぞれの単位毎に2 stackのHBM3が搭載され、合計で8 stackのHBM3を搭載する。

今回のEPYC 9V64HはCCD×3＋IODの組み合わせを4つ搭載したものだ。Instinct MI300XはCDNA 3のXCDを搭載したもののみだったが、これを“Zen 4”のCCDを搭載したもののみにしたものと考えればわかりやすい。3ダイ×4で合計12ダイ、8-core×12ダイの96-coreが実現する。HBM3は8 stackでInstinct MI300Aと同じなら128GBとなるのだろう。

Instinct MI300 seriesの構成はなかなかロマンあふれる構成であり、同じ構成を取るこのEPYC 9V64Hも非常に興味深いものであるが、どう頑張っても個人で扱えるものではないのは残念である。願わくばにInstinct MI300の設計で得た経験を将来のRyzenに生かしてロマンあふれる製品を開発してほしい（Instinct MI300 seriesのIODに2ch DDR5メモリコントローラとPCI-Express 5.0コントローラが載せられれば、3ダイで最大24-coreと64MBのInfinity Cacheを搭載するなかなかロマンのあふれるRyzenが理論上は実現可能だ）。

関連記事