Релиз AMD EPYC 9005 Turin и как это повлияет на рынок серверных процессоров?

10 октября, на прошедшей конференции Advancing AI, гендиректор AMD Лиза Су неожиданно представила выход 5-ого поколения серверных процессоров AMD EPYC 9005 линейки Turin. Эти процессоры знаменуют совершенно новый этап развития технологических решений для сферы высокопроизводительных вычислений, предлагая до 128 ядер на архитектуре Zen5 и до 192 ядер на архитектуре Zen5c, до 6-ти ТБ памяти DDR5 6400 и TDP до 500 Вт. В этой статье мы подробно рассмотрим характеристики новой линейки процессоров, разберем особенности представленных архитектур, расскажем с какими чипами они будут конкурировать, а также объясним, почему эти процессоры станут ключевыми для будущих решений в области серверных технологий и искусственного интеллекта.

 Рост доли процессоров AMD на рынке серверных систем. Источник AMD.

Перед тем, как подробно описать все особенности новой линейки передовых процессоров, предлагаем вам ознакомиться с официальными техническими характеристиками всех чипов AMD EPYC 9005 Turin:

Процессоры EPYC 9005 Turin	Архитектура	Ядра/потоки	TDP	Тактовая частота	Кэш	Цена
EPYC Turin 9965	Zen5c	192/384	500 Вт	2,25 — 3,7 Ггц	384 МБ	$14813
EPYC Turin 9845	Zen5c	160/320	390 Вт	2,1 — 3,7 Ггц	320 МБ	$13564
EPYC Turin 9825	Zen5c	144/288	390 Вт	2,2 — 3,7 Ггц	384 МБ	$13006
EPYC Turin 9755	Zen5	128/256	500 Вт	2,7 — 4,1 Ггц	512 МБ	$12984
EPYC Turin 9745	Zen5c	128/256	400 Вт	2,4 — 3,7 Ггц	256 МБ	$12141
EPYC Turin 9655	Zen5	96/192	400 Вт	2,6 — 4,5 Ггц	384 МБ	$11852
EPYC Turin 9655P	Zen5	96/192	400 Вт	2,6 — 4,5 Ггц	384 МБ	$10811
EPYC Turin 9645	Zen5c	96/192	320 Вт	2,3 — 3,7 Ггц	384 МБ	$11048
EPYC Turin 9565	Zen5	72/144	400 Вт	3,15 — 4,3 Ггц	384 МБ	$10486
EPYC Turin 9575F	Zen5	64/128	400 Вт	3,3 — 5,0 Ггц	256 МБ	$11791
EPYC Turin 9555	Zen5	64/128	360 Вт	3,2 — 4,4 Ггц	256 МБ	$9826
EPYC Turin 9555P	Zen5	64/128	360 Вт	3,2 — 4,4 Ггц	256 МБ	$7983
EPYC Turin 9535	Zen5	64/128	300 Вт	2,4 — 4,3 Ггц	256 МБ	$8992
EPYC Turin 9475F	Zen5	48/92	400 Вт	3,65 — 4,8 Ггц	256 МБ	$7592
EPYC Turin 9455	Zen5	48/92	300 Вт	3,15 — 4,4 Ггц	192 МБ	$5412
EPYC Turin 9455P	Zen5	48/92	300 Вт	3,15 — 4,4 Ггц	192 МБ	$4819
EPYC Turin 9365	Zen5	36/72	300 Вт	3,4 — 4,3 Ггц	256 МБ	$4341
EPYC Turin 9375F	Zen5	32/64	320 Вт	3,8 — 4,8 Ггц	256 МБ	$5306
EPYC Turin 9355	Zen5	32/64	280 Вт	3,55 — 4,4 Ггц	256 МБ	$3694
EPYC Turin 9355P	Zen5	32/64	280 Вт	3,55 — 4,4 Ггц	256 МБ	$2998
EPYC Turin 9335	Zen5	32/64	210 Вт	3,0 — 4,4 Ггц	256 МБ	$3178
EPYC Turin 9275F	Zen5	24/48	320 Вт	4,1 — 4,8 Ггц	256 МБ	$3439
EPYC Turin 9255	Zen5	24/48	200 Вт	3,25 — 4,3 Ггц	128 МБ	$2495
EPYC Turin 9175F	Zen5	16/32	320 Вт	4,2 — 5,0 Ггц	512 МБ	$4256
EPYC Turin 9135	Zen5	16/32	200 Вт	3,65 — 4,3 Ггц	64 МБ	$1214
EPYC Turin 9115	Zen5	16/32	155 Вт	2,6 — 4,1 Ггц	64 МБ	$726
EPYC Turin 9015	Zen5	8/16	155 Вт	3,6 — 4,1 Ггц	64 МБ	$527

Линейка AMD EPYC Turin 9005 состоит из 27-ми моделей процессоров, из которых 22 чипа относятся к серии Turin Classic, а 5 чипов относятся Turin Dense. Маркировка “F” в чипах EPYC 9175F, EPYC 9375F, EPYC 9475F и EPYC 9575F говорит о том, что сравнительно небольшое количество ядер компенсируется возможностью достижения максимальной тактовой частоты до 5 Ггц, тем самым увеличивая производительность каждого ядра.

Кроме того, среди представленных моделей есть несколько чипов с маркировкой “P”, вроде EPYC 9655P, EPYC 9555P, EPYC 9455P и EPYC Turin 9355P. Эта маркировка говорит о том, что эти чипы предназначены для интеграции в односокетные системы, ввиду чего они имеют меньшую стоимость по сравнению с аналогами под двухсокетные системы. Такие чипы подойдут для малого, среднего бизнеса или интеграции в определенные приложения, где двухсокетные конфигурации будут излишними. 

Примечательно, что в новой линейке не было представлено моделей с индексом “X”, который говорит о наличии многоуровневого кэша в процессорах. Представители AMD объяснили, что линейки чипов с многоуровневым кэшем обновляются 1 раз в 2 поколения, поэтому процессоры с такой функцией следует ожидать только в 6-ом поколении AMD EPYC.

Первые чипы имеют 128 стандартных высокопроизводительных ядер, благодаря чему чипы на архитектуре Zen5 имеют максимальную однопоточную производительность. Эти чипы состоят из 16-ти CCD блоков на 4-нм техпроцессе, которые расположены в 2 ряда, а в каждом CCD интегрировано по 8 ядер. В центр процессора интегрирован кристалл I/O Die с интерфейсами ввода/вывода.

Вторые чипы имеют уже 192 энергоэффективных ядра, которые распределяются по 16 штук на каждый из 12-ти CCD на 3-нм техпроцессе, объединенные в кластеры по 3 матрицы. Такие процессоры подойдут для тех сфер, где необходима высокая плотность вычислений.

Обе архитектуры адаптированы под интеграцию в сокеты SP5 — те же самые сокеты, которые использовались для чипов Genoa и Bergamo на предыдущем поколении Zen4. Однако, для флагманского чипа линейки EPYC Turin 9965, хоть и подходит тот же сокет, однако ему требуются дополнительные ресурсы для питания(500W), поддерживаемые самыми актуальными материнскими платами.

При всех выдающихся характеристиках новых процессоров, их энергопотребление составляет до 500 Вт. Это весьма высокий показатель для серверных решений, но такая жертва вполне оправдана. Увеличение количества ядер и тактовой частоты неизбежно требует большего расхода энергии, однако, благодаря оптимизациям Zen 5 и Zen 5C, производительность на 1 Вт остается очень внушительной.

По заявлениям AMD, прирост в производительности по сравнению с 4-ым поколением процессоров EPYC составил 37%. Из-за высокого TDP, компаниям придется несколько увеличить расходы на электроэнергию, но в обмен они получат передовую вычислительную мощность, которая позволяет оптимизировать операции, ускорить время обработки данных и предложить конечным пользователям более качественные сервисы.

Лиза Су привела данные, что около 75% компаний обновляют свое серверное оборудование раз в 3-5 лет, поэтому сейчас в большинстве корпораций используется устаревшее оборудование на базе архитектуры Intel Cascade Lake, которая была очень популярна 4 года назад, но на данный момент устарела. Лиза заявляет, что один сервер с процессорами EPYC Turin 9005 может заменить 131 сервер с процессорами Intel Cascade Lake, так как один процессор AMD в 7 раз превосходит чип от Intel. Этот фактор будет особенно ценен для центров обработки данных, поскольку заменив устаревшее оборудование на решения EPYC Turin 9005, можно значительно снизить общее энергопотребление, что снизит совокупную стоимость владения более чем на 60%. Кроме того, если вычесть затраты на закупку лицензированного ПО для устаревших серверов, заменив их на один новый сервер с процессорами AMD, ЦОД может окупить инвестиции за 6-12 месяцев.

Одной из ключевых нововведений передовых процессоров EPYC Turin 9005 является использование памяти стандарта DDR5 6400 с поддержкой 12 каналов. Изначально AMD планировали интегрировать в эту линейку процессоров поддержку только памяти формата DDR5-6000, но в дальнейшем от этой идеи отказались и решение было выпущено на более быстрой памяти DDR5-6400. Контроллер ECC DDR5 теперь поддерживает динамическое восстановление после сбоя на поддерживаемых модулях DIMM, а общий объем оперативной памяти достигает 6 ТБ на один процессор. Это позволяет существенно увеличить скорость обмена данными между ядрами и оперативной памятью, что особенно важно для приложений, связанных с искусственным интеллектом, машинным обучением и большими данными. Также такой объем и скорость памяти создают условия для быстрой обработки огромных массивов информации, что позволяет эффективно использовать EPYC Turin 9005 в крупных дата-центрах.

Еще одна передовая технология, поддерживаемая процессорами EPYC 9005 — PCI-E 5.0. Эта шина обеспечивает вдвое большую скорость передачи данных по сравнению с предыдущим поколением и имеет до 160-ти линий PCIe 5.0, что делает возможным подключение до 8-ми ИИ-ускорителей, таких как Nvidia B200 и AMD Instinct MI325X. Для ИИ-приложений и систем обработки данных это значит, что устройство может обрабатывать большие объемы информации быстрее и эффективнее. Помимо этого, новые шины поддерживают интерфейсы CLX 2.0, которые также оптимизируют работу ИИ-ускорителей и операций, связанных с памятью. Еще одно улучшение PCI-E 5.0 — поддержка технологии Trusted I/O, которая шифрует каждый канал PCIe, усложняя все виды атак, в том числе нацеленные и на аппаратное обеспечение чипов.

Сравнивая EPYC 9005 с процессорами-конкурентами от Intel 5-ого поколения, видно, что AMD выигрывает по всем показателям. Например, EPYC 9005 в 4 раза превосходят Xeon 5-ого поколения при кодировании видео, в 3,9 раз в обработке данных, в 3 раза в рендеринге изображений и в 2,3 раза для развертывания коммерческих приложений. Прежде всего, такое преимущество объясняется значительно большим количеством ядер и потоков у EPYC 9005 — 192 ядра и 64 ядра у Xeon Emerald Rapids Gen 5.

Общая производительность AMD EPYC в 2,7 раз выше, чем у Xeon Emerald Rapids Gen 5. Однако важно учитывать, что TDP у новых процессоров AMD на 140 Вт выше, чем у чипов Xeon 5–ого поколения. Даже выход нового, 6-ого поколения чипов, таких как Intel Xeon 6700E и 6900P, не даст Intel преимущества по сравнению с EPYC 9005, так как AMD выигрывает в производительности на одно ядро в 1,6 раз, что эквивалентно 60% большей производительности без доп. затрат на лицензированное ПО.

Кроме того, тактовая частота, достигающая вплоть до 5 ГГц выводит процессоры AMD на новый уровень по производительности на ядро, что особенно важно для многопоточных задач и ИИ-вычислений, так как выполнение задач, связанных с машинным обучением, положительно откликаются на прирост тактовой частоты. Помимо этого, высокая тактовая частота также оптимизирует работу корпоративных приложений, таких как 1C и реляционные баз данных MySQL, увеличивая производительность при работе с подобным софтом в 3,9 раз. В области энергоэффективности и стоимости на ядро AMD также уверенно лидирует, предлагая пользователям более выгодные решения по сравнению с Intel. В ИИ-секторе Intel также уверенно проигрывает, так как они отстают на 20% от AMD по производительности в конфигурации с ИИ-ускорителями.

Роль новых чипов AMD EPYC 9005 в сфере искусственного интеллекта невозможно переоценить — это чипы станут незаменимым элементом систем для разработки передовых моделей ИИ и машинного обучения. Прирост производительности EPYC (Turin 9005) при работе с ИИ-вычислениями составил 37%, что обеспечивается увеличением числа IPC (выполняемых инструкций за один такт) на 17%. Также более чем в в 2 раза увеличился показатель производительности в end-to-end тестированиях по сравнению с предыдущим поколением. Благодаря этому новые процессоры можно применять даже для сферы глубокого обучения ИИ и большие языковые модели с огромным количеством параметров.

Кроме того, используя высокочастотный чип EPYC 9575 с интеграцией 8-ми актуальных ускорителей для ИИ-вычислений Instinct MI300X, производительность в операциях, связанных с искусственным интеллектом, вырастет еще на 20%, а с выходом следующего поколения ускорителей instinct MI325X, возможности чипов вырастут в разы.