Intel представила видеокарту, которая не умеет создавать картинку. GPU D270 только запускает нейросети, 3D-графики в ней нет, зато памяти у нее до 480 ГБ, в разы больше, чем у игровых карт. Показали новинку на выставке Open Compute Project, где компании делятся своими разработками для создания и работы дата-центров.
Объем памяти важен, потому что нейросеть внутри похожа на огромную таблицу чисел, которые она выучила при обучении. Эти числа называют параметрами. Чтобы отвечать быстро, вся таблица должна целиком лежать в памяти карты. Если не помещается, модель режут на куски и раскладывают по нескольким картам, а те тратят время на пересылку данных друг другу. По словам Intel, одна D270 вмещает нейросеть примерно на 300 млрд параметров, а сервер из восьми карт справляется с моделями больше триллиона.
Объема Intel добилась за счет типа памяти. В ИИ-картах обычно стоит HBM, очень быстрая память, которую припаивают вплотную к чипу. Она дорогая, и сейчас на нее дефицит. Intel взяла LPDDR5X, такую же, как в ноутбуках и смартфонах. Она медленнее, зато дешевле и экономнее по энергии. Скорость чтения у D270 достигает 1,5 терабайта в секунду. У конкурентов быстрее, но памяти меньше. У ускорителя AMD Instinct MI350P 144 ГБ скоростной памяти и 4 ТБ/с, а у Nvidia Vera Rubin до 288 ГБ. Получается, что Intel сознательно уступает в скорости и берет объемом и ценой.
Мощность Intel заявляет такую: 1,3 петафлопс, то есть 1,3 квадриллиона операций в секунду, при потреблении 350 ватт. Считает карта в упрощенном формате чисел FP8. Числа в нем записаны короче обычных, нейросеть почти не теряет в качестве, а памяти и энергии уходит меньше. Охлаждается карта обычным воздухом и вставляется в стандартный слот PCIe 5.0 обычного сервера. Перестраивать дата-центр под нее не нужно.
Главная цель в том, чтобы ответы нейросети обходились дешевле. Intel считает, сколько токенов получается на ватт. Цену и дату массовых поставок компания не называет, образцы получили только отдельные заказчики. По данным AI Weekly, широкая продажа намечена на 2027 год.
Nvidia на той же выставке открыла чертежи стойки Vera Rubin. В ее лотке для оборудования охлаждение жидкостное и обходится без шлангов, кабелей и вентиляторов: всё подключается напрямую. Шина питания выдерживает 5000 ампер. Вместе с Cisco компания показала оптический модуль для связи между серверами, который вдвое быстрее прежнего: 400 гигабит в секунду вместо 200. Meta ставит в свои дата-центры коммутаторы Spectrum-6, устройства, которые раздают данные между серверами, и по данным Nvidia, они находят поломку в 30 раз быстрее программных решений. Кроме того, AMD, Google, Meta и Nvidia опубликовали общий свод требований к дата-центрам по энергоснабжению, охлаждению и планировке. Google, Meta, Microsoft и Nvidia добавили к нему правила на случай сбоев в электросети: после сбоя дата-центр должен вернуться почти к полной нагрузке менее чем за две секунды.
AMD ответила стойкой Helion для ИИ-агентов, то есть программ, которые сами выполняют цепочки задач. В версии на одних процессорах EPYC шестого поколения помещается до 32 768 вычислительных ядер. Версия для компаний добавляет к процессорам видеокарты Instinct MI350P. В комплект входит программа-маршрутизатор: она распределяет запросы агентов между закрытыми и открытыми нейросетями. Серверы по этому проекту будут собирать партнеры, среди которых Dell, HPE, Lenovo, Supermicro и Foxconn.
