Intel Xeon Max — идеальный выбор для высокопроизводительных вычислений

Слайд с презентации Intel c изображением Intel Xeon Max Series. Источник: Intel Содержание: Введение Особенности Intel Xeon Max Варианты работы HBM памяти Характеристики линейки Intel Xeon Max Отличия от Xeon Platinum и Gold Сценарии использования Суперкомпьютеры на базе Xeon Max Серверы с процессорами Xeon Max Заключение Введение Процессоры Intel Xeon Max — новое семейство процессоров компании Intel, предназначенные для использования в серверных системах на LGA 4677. Их уникальность заключается в том, что это первая линейка чипов, в которых была применена технология высокопроизводительной памяти HBM2e, что делает их контроллер памяти невероятно быстрым(до 1TB/s). Intel Xeon Max подойдут для применения в большом количестве областей, например, выполнении самых требовательных вычислительных задач, хранения и обработки информации, облачных вычислений и обучении искусственного интеллекта. Intel Xeon Max — прямой конкурент топовых чипов серии AMD EPYC, которые также имеют большое количество ядер и идеально подходят для HPC. Слайд из презентации Intel с схематичным изображением чиплетной компоновки новых CPU. Источник: Intel Особенности Intel Xeon Max Процессоры Intel Xeon Max основаны на архитектуре Sapphire Rapids и оснащены P-ядрами в количестве до 56 шт. и TDP до 350W, благодаря чему эта модель имеет исключительную вычислительную мощность и идеально подходит для интеграции в высокопроизводительные серверы. Кроме того, новые процессоры оснащены интерфейсом EMIB и поддерживают память формата DDR5 в комплексе со встроенной сверхбыстрой HBM2e объемом в 64Гб. Главная особенность Intel Xeon Max состоит в том, что 4 чиплета HBM2e по 16 Гб интегрированы на одну подложку с кристаллом процессора, поэтому Xeon Max является самым производительным в выполнении операций в ОЗУ. Это еще не все, ведь Intel Xeon Max буквально напичкан различными технологиями, увеличивающими его эффективность. Например, эти процессоры включают в себя такие передовые технологии, как Intel Deep Learning Boost, AVX-512 и Intel Speed Select Technology, которые повышают эффективность работы с высокоскоростными вычислениями и искусственным интеллектом. Intel CPU Max без теплораспределительной крышки. Видно, что в отличии от более привычных серий процессоров CPU Max имеет “крылышки” по бокам, а также массивные стеки HBM памяти. Источник: Techgage.com Варианты работы HBM памяти Несложно понять, что размещение постоянной памяти в процессоре требует особого внимания с точки зрения адаптации ПО и операционных систем. Поэтому Intel разработала три режима работы HBM: HBM Only  - работа системы исключительно на базе встроенных стеков HBM без добавления DDR. Не требует доработок ПО. HBM Flat - одновременная работа HBM2e с DDR5. Память делится на два региона. Требует программной оптимизации. HBM Caching - HBM выступает в роли кэша для DDR памяти, тем самым размывает границы между различными RAM. Не требует доработок ПО. Информационный слайд Intel повествующий о режимах работы контроллера памяти в CPU Max. Источник: Intel Характеристики линейки Intel Xeon Max  Семейство Xeon Max представлено всего пятью моделями процессоров. Предлагаем внимательно изучить их характеристики и ценовую политику. Процессор Ядра/потоки Частота TDP Встроенная память HBM2e Рекомендованная стоимость Intel Xeon CPU Max 9462 32c/64t 2.7 - 3.5 GHz 350 Вт 64GB 7995$ Intel Xeon CPU Max 9460 40c/80t 2.2 - 3.5 GHz 350 Вт 64GB 8750$ Intel Xeon CPU Max 9468 48c/96t 2.1 - 3.5 GHz 350 Вт 64GB 9900$ Intel Xeon CPU Max 9470 52c/104t 2.0 - 3.5 GHz 350 Вт 64GB 11590$ Intel Xeon CPU Max 9480 56c/112t 1.9 - 3.5 GHz 350 Вт 64GB 12980$ Отличия от Xeon Platinum и Gold Процессоры Xeon Max отличаются от моделей Xeon Platinum и Gold наличием встроенной памяти HBM2e и широким функционалом для решения задач, связанных с ИИ и высокопроизводительных вычислений. Новая линейка процессоров включает в себя пул интересных технологий: Intel® Data Streaming Accelerator (DSA) - технология для ускорения потоковой передачи данных, которая снимает нагрузку с ядер CPU на специализированные акселераторы(offloading) Intel® Advanced Matrix Extensions (AMX) - узконаправленные ускорители для повышения производительности в работе с ИИ(Deep Learning) Intel® Speed Select Technology - разработка позволяющая увеличить базовую частоту или изменить TDP процессора за счет изменения числа активных ядер. AVX-512 FMA - поддержка нового типа набора команд, позволяющего ускорить вычисления в самых интенсивных нагрузках. Intel заявляет, что новая серия процессоров имеет серьезный рост производительность в работе с ИИ, операциях с RAM. Источник: Intel Сценарии использования Процессоры Intel Xeon Max идеально подходят для следующих сценариев использования: Искусственный интеллект и машинное обучение. Ускорение выполнения алгоритмов благодаря поддержке DL Boost и AVX-512; Высокопроизводительные вычисления (HPC). Обработка сложных математических задач и моделирования; Анализ больших данных. Быстрая обработка и анализ огромных объемов данных. Тесты Xeon Max в программном пакете Ansys Fluent CFD показывают более чем двукратный рост производительности относительно Xeon Platinum 3 поколения. Рост вычислительной мощности связывают внедрением HBM2e и AVX-512. Источник: Intel Суперкомпьютеры на базе Xeon Max Intel Xeon Max можно использовать не только в коммерческих инфраструктурах — некоторые из самых мощных суперкомпьютеров в мире используют процессоры Intel Xeon Max. Самый известный из них — Aurora. Самый быстрый суперкомпьютер, разработанный для Argonne National Laboratory и запущенный в 2022 году, предназначенный для проведения научных исследований, экспериментов и моделирования. Этот суперкомпьютер полностью построен на базе Intel Xeon Max 9470 52C 2.4GHz. По состоянию на Июнь 2024 года этот суперкомпьютер находится на второй строчке рейтинга TOP500. Примечательно, что в качестве сопроцессоров для Xeon Max были выбраны Intel GPU Max, что еще раз доказывает концепцию экосистемы продуктов от синей компании.   Суперкомпьютер Aurora состоит более чем из 21 тысячи процессоров Intel CPU Max и 63 тысяч ускорителей Intel GPU MAX. Соотношение CPU к GPU достигает 1:3. Источник: Intel Серверы с процессорами Xeon Max Процессоры Intel Xeon Max на данный момент поддерживает не так много серверов, но все-таки есть модели от популярных производителей сетевого оборудования. Например, к таким моделям можно отнести: Supermicro Hyper SuperServer SYS-221H-TNR - 2U сервер оптимизированный для построения облачной инфраструктуры на базе двух сокетов LGA4677. Сервер имеет широкие возможности для расширения PCI-E, вероятно предусматривается установка GPU для создания оптимизированной системы для работы с AI и Machine Learning. Сервер SYS-221H-TNR имеет 8 hot-swap отсеков для установки накопителей формата NVMe/SAS/SATA. Перфорированные отсеки в передней панели позволяют создавать максимальный поток воздуха для охлаждения процессоров и GPU. Источник: Supermicro Заключение Новые x86-процессоры Intel Xeon Max — отличное решение для крупных игроков на рынке HPC систем. Благодаря заложенным архитектурным преимуществам процессоры показывают отличную производительность в сценариях связанных с AI и высокопроизводительными вычислениями. Применение Intel CPU Max в серверах для малого и среднего бизнеса может оказаться нецелесообразным ввиду стоимости чипов и нераспространенности серверных платформ.