AMD Instinct MI300C — эксклюзив для Microsoft Azure HBv5

На недавней конференции Ignite 2024, компания Microsoft представила новое, передовое решение для облачных инфраструктур Azure HBv5 на базе необычных процессоров от AMD, которые официально не были анонсированы компанией производителем. Изначально пользователи опознали эти процессоры как ускорители AMD Instinct MI300C, однако, впоследствии выяснилось, что это полноценные серверные CPU получившие название AMD EPYC 9V64H. В этой статье мы поговорим о том, что такое AMD EPYC 9V64H, почему эти процессоры изначально спутали с AMD Instinct MI300C, какие характеристики имеют эти процессоры, есть ли на рынке аналогичные решения, а также разберем саму систему Azure HBv5.

На самом деле, MI300C вовсе не является представителем линейки графических ускорителей AMD Instinct — это серверные процессоры AMD EPYC 9V64H. На конференции Ignite 2024, на которой были показаны эти устройства, пользователи увидели, что новые чипы имеют тот же сокет SH5, что и ускорители MI300A линейки AMD Instinct. Вследствие этого пользователи решили, что это устройство является продолжением линейки для тренировки и обучения ИИ. Однако, позднее выяснилось, что новые процессоры не имеют графических ядер — ранее имеющиеся блоки XCD(MI300A) были заменены на процессорные CCD. Таким образом, у представленных CPU чиплетная компоновка состоит из 9-ти вычислительных блоков CCD, общее количество ядер Zen4 достигает 96-ти штук с частотой до 4 Ггц. Также в новые чипы интегрирован блок памяти HBM3 объемом в 128 ГБ  и они пригодны для интеграции в 4-х сокетные конфигурации. Ранее в линейке классических серверных процессоров EPYC не было поддержки 4-х сокетных систем, эта привилегия была доступна только APU Instinct.

На самом деле, идея объединить память HBM, которая обычно применяется в графических ускорителях, и вычислительные ядра, не нова. На рынке уже представлено подобное решение, причем у конкурентов AMD в лице Intel. Это решение называется Intel Xeon Max. Эти чипы, которые имеют 56 производительных ядер, память HBM2e и TDP в 350 Вт, несмотря на большой потенциал, они не прижились в секторе высокопроизводительных серверных систем, на который они изначально и были ориентированы. Однако, ввиду своей высочайшей производительности, Intel Xeon Max нашли широкое применение в сфере мощнейших суперкомпьютеров. Например, суперкомпьютер Aurora, который находится на 2-ом месте в рейтинге TOP500, построен на базе Intel Xeon Max 9470 52C 2.4GHz. Тем не менее, многие корпоративные клиенты, такие как Microsoft, все-таки предпочитают использовать передовые решения от AMD в своих инфраструктурах, нежели процессоры компании Intel. Это подтверждает тот факт, что компания Intel не будет выпускать чипы Xeon Max на архитектуре Emerald Rapids, что свидетельствует об отсутствии коммерческого успеха линейки на рынке. Но стоит отметить, что в отличие от корпоративных CPU AMD EPYC 9V64H, чипы Intel Xeon Max доступны широкому рынку и любой желающий может приобрести их для интеграции в свои серверные системы.

Azure HBv5 — это передовые облачные решения от компании Microsoft, ориентированные на выполнение задач сектора HPC и виртуализации. Именно эти серверы получили новые, передовые процессоры AMD EPYC 9V64H. Каждый сервер Azure HBv5 может объединить в себе до 4-х процессоров, что в совокупности дает 352 ядра, 450 ГБ памяти HBM3, а пропускная способность системы достигает внушительных 6,9 ТБ/с. За счет такой высокой пропускной способности, виртуальные машины на базе этого решения в 9 раз быстрее, чем Azure HBv4 прошлого поколения. Azure HBv5 используют лишь 88 ядер чипа AMD EPYC 9V64H из доступных 96-ти, поскольку 8 ядер зарезервированы под гипервизор или оркестратор виртуальной машины. Также в Azure HBv5 по отключена функция SMT, благодаря чему пользователи облачных сервисов Microsoft получат максимальную производительность в высокопроизводительных вычислениях. Помимо этого, новые серверы оснащены интерконнектом NVIDIA Quantum-2 InfiniBand с пропускной способностью до 800 Гбит/с и сетевыми адаптерами Azure Boost NIC 2-ого поколения, за счет которых скорость передачи данных в сети Azure Accelerated Networking достигает 160 Гбит/с. Система хранения данных будет выполнена с использованием NVMe SSD и Microsoft заявляет, что ее скорость чтения будет достигать 50 ГБ/с, а скорость записи дойдет до до 30 ГБ/с. Серверы виртуализации будут выпущены в кластеры Microsoft для поддержки их облачной среды Azure в первом квартале 2025-ого года.

AMD активно продвигается к позиции лидера рынка серверных полупроводниковых решений, поэтому неудивительно, что такая крупная IT-компания как Microsoft, решила выбрать именно AMD в качестве своего партнера. Также такой выбор может свидетельствовать о том, что прямой конкурент AMD в лице Intel уже не является такой востребованной компанией, как это было раньше. Возможности новых чипов AMD EPYC 9V64H смогут опробовать все пользователи виртуальных машин в облаке Azure, однако, другие айти гиганты не смогут интегрировать эти CPU в свои системы, так как это решение является эксклюзивом для компании Microsoft.