ITNEWS.pro
10 часов назад
Подписаться
Nvidia и Dell научили «весомых» ИИ-агентов работать без облака

Дженсен Хуанг и Майкл Делл вместе представили NemoClaw — программный стек, который позволяет разворачивать агентный Искусственный интеллект прямо в собственном дата-центре заказчика, без обращения к облаку. Технология построена на Nvidia Agent Toolkit, части более широкой экосистемы NeMo для создания ИИ-агентов, и позволяет компаниям запускать локально модели размером от 30 миллиардов до триллиона параметров — диапазон, который еще недавно требовал доступа к облачным мощностям крупных провайдеров.

Демонстрация стала частью партнерства Dell AI Factory with NVIDIA: Dell и NVIDIA вместе создают готовую инфраструктуру для Искусственного интеллекта — от серверных чипов до сетевого оборудования и программ для работы с ИИ-моделями. В ее основе лежит платформа Vera Rubin, то есть набор новых компонентов, которые работают как единая система в дата-центре. Процессор Vera с 88 ядрами выполняет общие задачи и управляет работой сервера, а графический процессор Rubin отвечает за основные ИИ-вычисления: обучение и запуск больших моделей. Быстрая память HBM4 хранит данные рядом с графическим процессором, чтобы он не тратил время на ожидание. Несколько GPU соединяет NVLink 6 — специальный высокоскоростной коммутатор, передающий до 3,6 ТБ данных в секунду, благодаря чему чипы могут работать вместе как единый вычислительный комплекс. Адаптеры ConnectX-9 связывают серверы между собой, а процессоры BlueField-4 берут на себя сетевые, защитные и другие служебные задачи, освобождая основные чипы для работы с ИИ. Для связи между стойками дата-центра используются коммутаторы Spectrum-6 — устройства, которые распределяют данные между множеством серверов. Они передают до 102,4 Тбит данных в секунду, что вдвое больше предыдущего поколения, а встроенная рядом с чипом оптика помогает уменьшить задержки при передаче информации.

Еще показали и роботов с так называемым физическим ИИ — системами, которые применяют те же принципы агентного мышления не к тексту, а к движению и манипуляции предметами в реальном мире. Это прямое продолжение стратегии Nvidia последних лет: компания последовательно продвигает идею, что следующий рубеж Искусственного интеллекта лежит не в чат-ботах, а в физических системах, которые видят, перемещаются и взаимодействуют с окружением.

Контекст показа важен не меньше самой технологии. AMD в тот же день впервые в истории перешагнула капитализацию в $1 трлн, во многом за счет собственных многолетних контрактов на поставку вычислительного «железа» с OpenAI и Meta — конкуренция за место главного поставщика инфраструктуры для ИИ обострилась настолько, что почти каждую неделю кто-то из крупных игроков чипового рынка объявляет о новой рекордной сделке или партнерстве. Nvidia отвечает не отдельными чипами, а вертикально интегрированной связкой из вычислений, сети и софта, которую конкурентам придется повторять на всех трех уровнях одновременно, а не на одном.

Первыми пользователями NemoClaw станут крупные корпоративные клиенты Dell, которые уже создают собственную инфраструктуру для разработки и запуска ИИ, так называемые ИИ-фабрики.

Подписывайся на наш Telegram и не пропусти главные новости!