SOCAMM2 — новый тип оперативной памяти для ИИ-серверов

ИИ-индустрия объявила масштабную перестройку рынка серверного оборудования. Высокие требования предъявляются не только к GPU, но и к CPU, NIC, дискам и множеству других компонентов, но никто не ожидал, что под реформы попадет даже оперативная память. Если раньше архитектура памяти сервера всегда строилась вокруг RDIMM, то с приходом производительных ИИ-стоек и масштабных модульных ЦОД, вскрылись узкие места традиционных плашек оперативки — высокое энергопотребление, крупный вертикальный форм-фактор и ограничение по плотности размещения. Для ИИ-серверов, где важен каждый миллиметр свободного пространства, недостатки RDIMM стали критичными. Все это подвело ИИ-индустрию к созданию совершенно нового, модульного стандарта оперативной памяти, который получил название SOCAMM2 (Small Outline Compression Attached Memory Module). В этой статье специалисты компании ServerFlow расскажут вам, что из себя представляет стандарт SOCAMM2, что отличает его от традиционных модулей оперативной памяти, где он используется, кто его производит и будет ли SOCAMM2 использоваться в массовых серверах.

Компания Nvidia неоднократно вносила свои коррективы во всех областях ИИ-индустрии, и оперативную память эта тенденция тоже коснулось, ведь первая версия SOCAMM была разработана инженерами компании Хуанга вне рамок консорциума JEDEC. Nvidia впервые использовала стандарт SOCAMM1 в прорывных ИИ-стойках GB300 NVL72 — это было крайне уместно, так как именно в этих ИИ-решениях пространство внутри стоек было особенно ограничено. 

Насколько известно, Micron начала массовое производство первой версии SOCAMM в марте 2025 года и даже публиковала технический отчет об этом типе памяти, из которого известно, что он имел:

• 649 контактов (против 288 контактов в DDR5);
• Память LPDDR5X с частотой 8533 МГц;
• Объем до 128 ГБ на модуль.

Но первый блин, как водится, вышел комом. Проект SOCAMM дважды приостанавливали, и в итоге в сентябре 2025 года Nvidia свернула инициативу из-за технических проблем, которые так никогда и не разрешались, хотя к проекту позже хотели подтянуться Samsung и SK hynix. Но Хуанг не сдался, а перенаправил ресурсы, чтобы сразу приступить к разработке нового, второго поколения памяти SOCAMM — полноценного отраслевого стандарта JEDEC (стандарт JESD328). В этот раз в проекте участвуют все три кита индустрии памяти — Samsung, SK Hynix и Micron. Разработка уже подошла к концу, и мы уже можем увидеть передовую модульную память SOCAMM2 в новейших ИИ-ускорителях Vera Rubin, а Micron уже готовит модули SOCAMM2 к свободной продаже. Но что же приковывает к SOCAMM2 так много внимания? Это же просто очередной форм-фактор оперативки, ведь так? На самом деле, у SOCAMM2 есть несколько особенностей, которая делает ее столь интересной.

В SOCAMM2, как и в первой версии SOCAMM1, используется “ноутбучная” LPDDR5X, а не традиционная серверная DDR5. Может показаться, что выбор странный, но у него есть вполне логичные обоснования — LPDDR5X намного энергоэффективнее и быстрее, чем классическая оперативка. LPDDR5X потребляет примерно втрое меньше энергии на бит, что радикально снижает тепловыделение в стойках и позволяет делать более плотную компоновку компонентов без огромных затрат на охлаждение.

Кроме того, ширина шины одного канала LPDDR5X составляет 128 бит против 64 бит у DDR5, и на частоте 9600 МГц это дает до пропускную способность до 153,6 ГБ/с на модуль. И это еще не все: в отличие от DDR5 с ее буферными чипами и сложной синхронизацией, LPDDR5X использует прямую интеграцию с контроллером памяти, обеспечивая минимальные задержки, что критически важно для работы с искусственным интеллектом. Само собой, у поддержка SOCAMM2 есть поддержка ECC, только не в виде отдельного модуля на плашке, а непосредственно на кристалле (так называемая технология On-Die ECC)

Те, кто подумал, что SOCAMM2 — это просто CAMM и LPCAMM2 для серверов, будут абсолютно правы. От модульных модулей памяти для ноутбуков SOCAMM2 отличается только объемом и лучшей совместимостью с системами жидкостного охлаждения.

Давайте ознакомимся с ключевыми техническими характеристиками модуля SOCAMM2, которые определяют его превосходство над традиционными серверными DIMM в ИИ-стойках.

• Форм-фактор и габариты: односторонняя печатная плата размерами примерно втрое компактнее стандартного модуля DDR5 RDIMM. Крепление тремя винтами вместо защелок и горизонтальная установка значительно упрощает охлаждение и компоновку памяти в плотных серверных корпусах. 
• Количество контактов: 694 контакта (против 288 у DDR5 DIMM и 644 у LPCAMM2).
• Тип памяти: LPDDR5X с шириной шины 128 бит на канал (против 64 бит у DDR5).
• Скорость передачи данных: до 9600 МГц у модулей Micron и SK Hynix, до 8500 МГц у Samsung.
• Пропускная способность: до 153,6 ГБ/с на один модуль при частоте 9600 МГц.
• Емкость: 128 ГБ и 192 ГБ, и даже до 256 ГБ у Micron.
• Компоновка чипов: четыре посадочных места под микросхемы DRAM (у DDR5 DIMM — от 8 до 40 чипов), что обуславливается огромной емкостью каждого чипа SOCAMM2.

На рынке SOCAMM2, как мы уже упоминали, три основных игрока, и все они уже раскрыли свои карты. Samsung анонсировала модули в декабре 2025 года: их модули будут иметь 128 и 192 ГБ со скоростью до 8500 МГц. SK Hynix показала свои образцы чуть раньше, в октябре 2025 года, с разбросом частот от 7500 до 9600 МГц и тем же объемом. Micron, как главный подрядчик NVIDIA по первому поколению SOCAMM, быстрее всех разработала модули с емкостью до 256 ГБ с частотой до 9600 МГц и анонсировала их в марте 2026 года. Все трое уже выпустили тестовые решения и поставляют образцы крупным заказчикам, но заказы NVIDIA распределят между ними примерно поровну, так что дефицита и ценового сговора ждать не стоит.

Основные сценарии использования модулей SOCAMM2 сфокусированы на высоконагруженных ИИ-инфраструктурах и энергоэффективных серверных платформах нового поколения.

• ИИ-ускорители: модули используются в качестве оперативной памяти для процессоров Vera, обеспечивая пропускную способность примерно до 15 ТБ/с и до 18 ТБ LPDDR5X на ноду. Благодаря этому в случае нехватки видеопамяти GPU Rubin веса нейронок могут временно перемещаться в память SOCAMM2,
• ИИ-стойки: в составе GPU-серверов и ИИ-стоек для работы с большими языковыми моделями, генеративным ИИ и агентными сценариями, где критичны высокая пропускная способность памяти и низкие задержки.
• Гиперскейлеры и облачные провайдеры: энергоэффективность LPDDR5X позволяет снизить расходы на охлаждение и питание в крупных ЦОД, кратно увеличивая плотность размещения серверов в стойке.
• Серверы общего назначения: после финализации стандарта JEDEC модули смогут применяться в массовых серверах общего назначения, где требуется баланс производительности и энергопотребления.
• Ноутбуки и ИИ-ПК: SOCAMM2 является развитием стандарта LPCAMM2, уже применяемого в высокопроизводительных ноутбуках и мини-ПК, поэтому не исключено, что новый стандарт займет нишу своего предка.

Стандарт JESD328, под которым развивается SOCAMM2, открыт для всех после финализации спецификации. Компактные размеры и 60% энергопотребления от DDR5 RDIMM — это очень заманчивое предложение для гиперскейлеров, которые бьются за каждый ватт и каждый юнит в стойке. Аналитики считают, что к 2027 году SOCAMM оттяпает от 25% до 30% рынка памяти для систем ИИ-инференса, забирая долю как у классических DIMM, так и у дорогущей HBM. Но есть и ложка дегтя в бочке меда: чтобы начать ставить SOCAMM2 в массовые серверы, производителям придется перекроить дизайн материнских плат, пересмотреть охлаждение и, конечно же, смириться с более высокой начальной ценой модулей по сравнению с отработанной технологией DDR5. Однако, учитывая, что все три гиганта DRAM уже в игре, а спрос на энергоэффективные решения только растет, шансы увидеть SOCAMM2 за пределами ниши NVIDIA в ближайшие пару лет весьма высоки.

SOCAMM2 — это большой серьезный шаг вперед, а не очередной маркетинговый пузырь. Объединить высокую пропускную способность и энергоэффективность мобильной LPDDR5X с компактностью и модульностью, без которых в дата-центре делать нечего — дорогого стоит. Стандарт бьет в самое больное место современных ИИ-систем, которые упираются в ограничения традиционной памяти, и предлагает альтернативу HBM. У SOCAMM2 есть все шансы стать основным типом оперативки для ИИ-серверов следующего поколения. Ну а попадет ли он в массовый сегмент серверов общего назначения — покажет время и готовность вендоров раскошелиться на перепроектирование своих серверных платформ.