Решение Dell Generative AI Solutions для эффективной трансформации бизнеса

Dell Generative AI Solutions — это возможность эффективно работать с генеративным ИИ в ЦОДах и на периферии с получением ожидаемого результата в минимальные сроки. Теперь в состав Dell Generative AI Solutions включены серверы PowerEdge XE9680 с ускорителями AMD Instinct MI300X. В сочетании с сетевым оборудованием PowerSwitch и СХД PowerScale, можно получить универсальное решение, позволяющее на аппаратном уровне получать максимально доступную производительность с превосходной пропускной способностью GenAI.

Чтобы перейти к работе с Dell Generative AI Solutions, недостаточно провести развертывание программного и технического обеспечения. Используется специализированное ПО, такое как: Dell Omnia, Enterprise SONiC, AMD ROCm, PyTorch и Jupyter. Для начала работы с новой технологией требуется настройка:

операционной платформы;
кластера Kubernetes;
инфраструктуры для работы с генеративным искусственным интеллектом;
сетей и шин передачи данных.

В Dell делают все, чтобы пользователи могли работать с большей отдачей, решать задачи, стоящие перед бизнесом. Это относится и к формированию стратегии, масштабированию операций, построению управленческих операций.

Линейка серверов PowerEdge дополнена сразу пятью новыми моделями на базе сокетов AMD EPYC™. Все они относятся к 5-му поколению и предназначены для работы как со стандартными нагрузками, так и генеративным искусственным интеллектом:

Клиентам доступны серверы:

Dell PowerEdge XE7745. Предназначен для крупных предприятий, работы с искусственным интеллектом. Одновременно можно устанавливать до 8-ми графических процессоров PCIe с двойной шириной. Альтернатива — 16 процессоров с одинарной шириной. Сетевых адаптеров PCIe может быть до 8-ми. Монтаж выполняется в шасси высотой 4U. Предусмотрено воздушное охлаждение. Сервер можно использовать для HPC или высокопроизводительных вычислений.
Dell PowerEdge R6725 и R7725. Обе модели имеют по 2 процессора. Можно с минимальными затратами проводить масштабирование операций, работать на максимально доступной производительности, в том числе с большими объемами данных и искусственным интеллектом. Количество ядер можно увеличить на 50%. При этом производительность в пересчете на каждое ядро нарастает на 37%. Все вместе это позволяет работать с повышенными нагрузками, снизив одновременно стоимость владения оборудованием. На практике это означает, что один современный процессор по производительности равнозначен 7-ми серверам, выпущенным 5 лет назад. Энергопотребление центрального процессора сокращается сразу на 65%.
Dell PowerEdge R6715 и R7715. Относятся к однопроцессорным. В качестве основы выбраны AMD EPYC уже 5-го поколения, что позволяет работать даже с повышенными нагрузками. Емкость модулей памяти увеличена сразу на 37% за счет наращивания плотности записи. Серверы из этой группы можно использовать для работы с искусственным интеллектом, но для обучения относительно небольших моделей. Сервер R6715 можно считать рекордсменом в своем классе части производительности применительно к ИИ и виртуализациям.

Обновления от Dell для iDRAC делают вычислительные системы более управляемыми. Можно в дистанционном формате контролировать работу узлов сети, проводить обновления при необходимости. Одновременно проработаны многие вопросы, относящиеся к безопасности пользовательских данных.

Совместная работа AMD и Dell позволяет ЦОДам провести переоснащение на максимально выгодных условиях. Производительность повышается, в том числе за счет использования совершенных ускорителей Instinct. Ими оснащают, например, серверы PowerEdge XE. С ними даже самые высокие рабочие нагрузки не будут проблемой для пользователей.

Источник: Dell