Канадский стартап Tenstorrent представил двухслотовые ИИ-ускорители Blackhole

Введение Перспективная канадская компания Tenstorrent, известная выпуском ИИ-чипов Wormhole на базе RISC-V в 2024 году, анонсировала выход нового семейства графических ускорителей под названием Blackhole. На базе новых ИИ-ускорителей будут создаваться передовые рабочие станции TT-QuietBox. Подробнее об ИИ-ускорителях Blackhole Младшей моделью семейства является ускоритель Blackhole p100a, который имеет 120 ядер Tensix на собственной архитектуре компании Tenstorrent, а также 16 ядер на архитектуре RISC-V. Кроме того, ИИ-решение обеспечивает поддержу 180 МБ SRAM и 28 ГБ GDDR6 с пропускной способностью 448 Гбит/с. В свою очередь, решения p150a/p150b созданы на базе 140 ядер Tensix и 16 ядер RISC-V, поддерживают 210 МБ SRAM, 32 ГБ GDDR6 со скоростью передачи данных до 512 Гбит/с. TDP все решений Blackhole составляет 300 Вт. В каждый ускоритель встроен ИИ-модуль с тактовой частотой 1,35 ГГц. Также стоит отметить, что старшие графические ускорители p100a и p150a поддерживают активное охлаждение, а младшая модель p150b — только пассивное охлаждение. Кроме того, старшие модели имеют 4 порта QSFP-DD 800G. Все карты будут подключаться через интерфейс PCI Express 5.0 x16. Рекомендуемая стоимость решения начального уровня Blackhole p100 составляет $1000, а более мощные видеокарты будут стоит $1300. Интересно, что чипы Blackhole p100a и p150a/p150b обеспечивают производительность на уровне 262 и 466 TFLOPS в режиме вычислений FP8. Графический процессор ИИ-ускорителя Blackhole. Источник: Tenstorrent. В новейшую рабочую станцию TT-QuietBox будут интегрироваться 4 ускорителя Blackhole p150, в качестве CPU был выбран серверный чип AMD EPYC 8124P с 16 ядрами, 32 потоками и тактовой частотой до 3 ГГц. Объем RAM этого решения достигает 256 ГБ в формате DDR5-4800 ECC RDIMM, поддерживается интеграция 8 слотов. Также производители будут устанавливать SSD-накопители объемом 4 ТБ с интерфейсом PCIe 4.0 x4 (NVMe). Также предусмотрено наличие 2 сетевых портов 10GbE RJ45 ( на базе контроллера Intel X710-AT2) и 1GbE RJ45 (на базе контроллера Intel i210), 4 порта USB 3.1 Gen1 Type-A и аналоговой порт D-Sub. Все компоненты будут располагаться на материнской плате ASRock Rack SIENAD8-2L2T. Стоимость передового профессионального ПК TT-QuietBox составит $12,000 Рабочая станция TT-QuietBox. Источник: Tenstorrent. Вывод Увеличение спроса на передовые ИИ-решения все чаще побуждает стартапы выпускать собственные высокопроизводительные решения, удовлетворяющие потребности разработчиков искусственного интеллекта. Причем, внушительная производительность новейших чипов при сравнительно низкой стоимости ИИ-устройств Nvidia и AMD может способствовать привлечению большого числа потребителей, занимающихся разработкой передовых языковых моделей.