NVIDIA Vera - однопоточный центральный процессор для ИИ

Для корпоративных систем, на которых работают агенты ИИ, критически важна максимальная производительность однопоточных процессоров. Благодаря этому каждый шаг агента выполняется оперативно даже при полной загрузке системы: каждое ядро обрабатывает задачу с максимальной эффективностью, не создавая задержек для остальных ядер. Такая конфигурация гарантирует высокую пропускную способность и позволяет достичь предельной производительности при выполнении задач на одном ядре.

Работа агента искусственного интеллекта представляет собой непрерывный цикл: модель анализирует ситуацию и определяет следующий шаг, центральный процессор обрабатывает данные, результат возвращается, и модель принимает новое решение. Затем цикл запускается заново. Этот механизм формирует особый профиль нагрузки, который не характерен для традиционных процессоров. Если обычная работа процессора связана с короткими взаимодействиями, инициируемыми пользователем, то агенты ИИ функционируют в режиме непрерывного параллельного выполнения задач, где каждый последующий шаг зависит от результата предыдущего.

Увеличение количества ядер в процессоре позволяет обрабатывать больше задач, что важно для центров обработки данных. Однако это не сокращает время выполнения отдельных шагов в цикле работы агента и не ускоряет обработку единичных задач. Более того, процессоры с большим числом ядер могут терять в производительности отдельных ядер из-за конкуренции за ресурсы.

Именно поэтому ключевое значение имеет производительность каждого ядра. Хотя дополнительная пропускная способность важна, она не может заменить высокой скорости работы отдельных ядер. Поскольку каждый шаг в цикле зависит от предыдущего, скорость ядра напрямую влияет на скорость всего процесса. Идеальный процессор для агентов ИИ должен обеспечивать максимальную производительность в однопоточном режиме для каждого ядра без каких-либо компромиссов.

В этом контексте особое внимание заслуживает процессор NVIDIA Vera, который создан специально для работы с агентами ИИ. Он оптимизирован для эффективного выполнения циклических процессов, включающих использование инструментов, обработку данных, выполнение кода и проверку результатов.

Основу Vera составляет ядро ЦП Olympus от NVIDIA, которое выполняет на 50 % больше инструкций за цикл по сравнению с NVIDIA Grace. Это преимущество особенно заметно в ситуациях, когда шаги агента выполняются последовательно: например, при вызове инструмента, выполнении кода, запуске теста или обработке данных. Ускорение работы ядер позволяет сократить длительность каждого цикла.

Кроме того, Vera обладает рядом других преимуществ:
- пропускная способность памяти LPDDR5X достигает 1,2 ТБ/с при энергопотреблении менее 40 Вт;
- монолитный вычислительный кристалл обеспечивает бесперебойную подачу данных к активным ядрам и их эффективное перемещение между ядрами с пропускной способностью 3,4 ТБ/с (что в три раза превышает показатели других процессоров для центров обработки данных).

Благодаря такой архитектуре все 88 ядер могут использовать всю производительность памяти без создания узких мест. В результате при имитации интенсивной нагрузки, характерной для работы агентов, Vera демонстрирует производительность на ядро в 1,8 раза выше по сравнению с архитектурой x86.

Эти преимущества проявляются на всех этапах работы: от вызова инструментов и выполнения кода до обработки данных и проверок. В итоге фабрики ИИ могут повысить эффективность работы с агентами, не меняя имеющегося парка графических процессоров.

Поскольку агенты ИИ постоянно работают с данными — запрашивают, извлекают, фильтруют и перемещают информацию — Vera становится незаменимым помощником, ускоряя эти процессы на стороне процессора. Партнёры отметили впечатляющий рост производительности при использовании технологий Starburst и Redpanda: скорость выполнения крупномасштабной SQL-аналитики увеличилась втрое, а задержка при потоковой передаче данных в реальном времени сократилась до шестикратного минимума по сравнению с передовыми серверными процессорами x86.

Деятельность агента не ограничивается решением единичной задачи — его функционал значительно шире. Он инициирует работу различных инструментов и тестовых сред, занимается обработкой данных, формирует запросы и совершенствует последующие модели посредством обучения с подкреплением. И всё это базируется на общих мощных возможностях.

Система Vera демонстрирует универсальность, охватывая весь комплекс необходимых задач без необходимости задействовать отдельный процессор для каждой из них. Более того, поскольку Vera использует ту же архитектуру, что и графические процессоры NVIDIA Vera Rubin, а также процессор хранения данных NVIDIA BlueField-4 STX, вся инфраструктура искусственного интеллекта функционирует в рамках единой архитектурной платформы и применяет общий набор инструментов.