Корпорация HPE представила новое поколение серверов для искусственного интеллекта и глубокого обучения Apollo 6500 Gen10 с трехкратной производительностью по сравнению с предыдущим поколением Gen9, которая достигается благодаря 8 графическим ускорителям Nvidia Tesla V100, соединяющимся между собой по шине NVlink 2.0.
По утверждению HPE , новинка в среднем в 3,12 раза быстрее предшественника Apollo 6500 Gen9 при работе с моделями глубокого обучения Inception-v3, ResNet-50 и VGG-16 на платформах TensorFlow и Caffe2.
Производительность в операциях с плавающей запятой заявляется на уровне 125 Тфлопс одинарной точности.
Для сравнения, Apollo 6500 Gen9 показывал до 56 Тфлопс c 8 видеоускорителями Nvidia Tesla M40. Эта система в корпусе 4U включает в себя 2 серверных модуля HPE XL270d . Каждый такой модуль размером 2U несет на борту 4 GPU Tesla K40, K80 или M40, соединенных между собой по шине PCIe gen3, а также 2 процессора Intel Xeon, до 1 Тб оперативной памяти и 8 отсеков для накопителей 2,5″.
Система HPE Apollo 6500 Gen10 устроена по-другому, как видно на фотографии:
Он состоит из 3 частей: верхней размером 2U с 8 отсеками 2,5″, средней и нижней размером по 1U. В нижней части находятся 4 блока питания с вентиляторами и розетками, в которые вставлены 4 кабеля, затем входящие в среднюю часть.
Необычное решение, учитывая, что мы рассматриваем переднюю панель сервера . Возможно, оно позволяет высвободить пространство внутри сервера , а также повысить степень «модульности» и конструктивной гибкости всей системы.
В средней части размещаются 8 графических модулей, а в верхней — 2 серверных модуля с процессорами Intel Xeon, размещенные рядом на одном уровне под съемной верхней крышкой. Отсеков для накопителей по 8 в каждом, всего 16. Поддерживаются жесткие диски и твердотельные накопители SAS/SATA, из которых до 4 SSD NVMe.
На наклейке сверху справа на передней панели написано «ProLiant XL270d Gen10», но он выглядит совсем иначе, чем Gen9, и не совсем понятно, как извлечь серверный модуль с лицевой стороны. Слева же мы видим надпись «Drive Box ID» и схематичное изображение двух дисковых корзин.
Всё это позволяет сделать вывод о том, что новое поколение значительно переработано по сравнению с предыдущим. По словам производителя HPE , «инновационная конструкция системы HPE Apollo 6500 Gen10 позволяет добиться большей гибкости при создании различных конфигураций и топологий в соответствии с рабочей нагрузкой».
Максимальный объем поддерживаемой Apollo 6500 Gen10 оперативной памяти составляет 3 Тб, что в 1,5 раза больше, чем у Gen9.
Среди поддерживаемых топологий графических ускорителей — гибридная кубическая сетка для NVLink и 4:1 или 8:1 GPU:CPU по PCIe.
Удаленное управление и мониторинг, как и в остальных серверах поколения Gen10, осуществляется через систему iLO5.
Технические характеристики серверов для ИИ и глубокого обучения Apollo 6500 Gen10
| Графические ускорители | До 8 GPU на сервер , мощностью до 350 Вт каждый, связь GPU-GPU по NVLink 2.0 или PCIe |
| Поддерживаемые ускорители | NVIDIA® Tesla V100, P100, P40 |
| Адаптеры | 4 высокоскоростных адаптера (Ethernet, Intel Omni-Path Architecture, InfiniBand EDR и InfiniBand HDR) |
| Процессоры | Intel® Xeon® Scalable (8100 и 6100); до 165 Вт, до 28 ядер с частотой до 3 ГГц |
| Память | До 24 DDR4 SmartMemory DIMM 2666 MHz, общим объемом до 3 Тб (24 x 128 Гб) |
| Хранилище | До 16 накопителей SFF: SAS/SATA SSD с горячим подключением, до 4 NVMe SSD |
| Сеть | • 4 порта 1GbE RJ-45 • 4 слота PCI Express x16 для карт InfiniBand EDR или Intel OPA или Ethernet до 100Gbps |
| Слоты для карт расширения | • 1 x16 FHHL PCIe Gen3 System Board • 4 x16 PCIe Gen3, из тех же, что для GPU |
| Блоки питания | До 4x 2200W 80 Plus Platinum (2 + 2) |
| Установка в стойку | Для стандартных стоек глубиной 1075 мм |
HPE поставляет для этого оборудования набор услуг и самую быструю в мире параллельную файловую систему WekaIO Matrix:
- Сервис цифрового обслуживания по подписке, одно из предложений Pointnext на основе искусственного интеллекта, который по утверждению HPE способен предсказывать, предлагать и автоматизировать решение возникающих проблем до того, как они принесут ущерб;
- Мастерская трансформации и искусственного интеллекта, предоставляющая клиентам консультации по Pointnext для более простого внедрения искусственного интеллекта, аналитики и других инструментов взаимодействия с данными, а также предоставляющая примеры использования ИИ ;
- «Поваренная книга» глубокого обучения, содержащая базу знаний с результатами тестов конкретного оборудования в стандартных рабочих средах, которыми чаще всего пользуются заказчики;
- Оптимизированная для твердотельных flash-накопителей файловая система Matrix, разработанная компанией WekaIO, сертифицированная для серверов Apollo 2000 Gen10 и HPE ProLiant DL360 Gen10.
HPE впервые показала этот и другие новые продукты, в том числе, решения для высокопроизводительных вычислений и искусственного интеллекта, на конференции Nvidia по графическим вычислениям, проходившей с 16 по 29 марта в Сан-Хосе, Калифорния.
Цифровой сервис обслуживания уже предлагается в европейском регионе, а во всем мире будет доступен с июня через HPE Pointnext. Мастерская ИИ уже доступна глобально там же. Сами системы Apollo 6500 Gen10 начнут продаваться с мая, вместе с WekaIO Matrix.
Если вас заинтересовали новые системы Apollo 6500 Gen10, пожалуйста, свяжитесь с нашими специалистами для проработки проекта. Это достаточно сложное оборудование, конфигурация которого подбирается под конкретные технические требования, соответственно, определяется и его стоимость. Но в любом случае, обратившись в Айронсистемс, вы получите надежное и эффективное серверное оборудование по оптимальной цене!