Впровадження генШІ на новому рівні з HPE ProLiant Compute DL380a Gen12

Компанії Hewlett Packard Enterprise та NVIDIA мають спільні рішення, які можуть значною мірою прискорити впровадження генеративного штучного інтелекту (GenAI) на підприємствах.

Сервер HPE ProLiant Compute DL380a Gen12 — частина портфоліо NVIDIA AI Computing від HPE. Цей сервер призначений для користувачів великих мовних моделей (LLM), яким потрібна гнучкість, щоб масштабувати робочі навантаження GenAI. Він підтримує до двох процесорів Intel® Xeon® 6, а також до восьми графічних процесорів NVIDIA H200 NVL Tensor Core 3.

NVIDIA H200 NVL прискорює генеративний ШІ та LLM, а також розвиває високопродуктивні обчислення для складних робочих навантажень. Серед його переваг варто відзначити такі:

• майже удвічі більша швидкість інференсингу (при роботі з такими LLM, як Llama) завдяки використанню NVIDIA H200 Tensor Core та 4-канальних мостів зв'язку NVLink (для порівняння: H100 NVL використовують 2-канальні мости NVLink);
• це перший графічний процесор з HBM3E, який забезпечує більш високопродуктивну пам'ять з пропускною здатністю 4,8 ТБ/с;
• безпрецедентний стрибок продуктивності (для порівняння: продуктивність NVIDIA H200 NVL у 18 разів вища, ніж NVIDIA A100).

Покращення щільності ядер і продуктивності на ват за високої пропускної здатності

Процесори останнього покоління Intel ® Xeon ® 6 пропонують новий клас ефективних ядер (E-cores) з високою щільністю ядер (до 144 ядер на процесор), що створює значні переваги для хмарних робочих навантажень. Використання цих процесорів зменшує споживання електроенергії, сприяє сталому розвитку й дає змогу щільніше розмістити обладнання на стійках, а отже — ефективніше послуговуватися інфраструктурою ЦОД, збільшуючи водночас можливості нових робочих навантажень.

Процесори Intel ® Xeon ® 6 відповідають повному спектру потреб у продуктивності та ефективності, важливих для виконання складних завдань (їхня продуктивність на ват у 2,4 рази більша, ніж у попередників — Intel ® Xeon ® 4-го покоління). Вбудовані прискорювачі ШІ — Intel Advanced Vector Extensions (AVX) — забезпечують додаткові ресурси для виконання цільових робочих завдань, оскільки підвищують продуктивність і ефективність обробки даних, тобто критично важливих вимог, які висуваються до сучасних обчислювальних систем.

Підвищена надійність і параметри мереж:

• 6 блоків живлення для процесорів,
• до 6 слотів на 16 PCLe Gen5,
• підтримка DPU-блоків NVIDIA® BlueField® та ConnectX-7 SmartNIC.

Блок NVIDIA BLUEFIELD-3 DPU — це перший у світі блок DPU, який обробляє дані на швидкості 400 Гб/с, розрахований на роботу в програмно-конфігурованих мережах, ефективне управління сховищами та високий рівень кібербезпеки.

Блоки BlueField поєднують потужні обчислювальні можливості, широкі можливості контролю даних в інтегрованій DOCA-інфраструктурі, а також високопродуктивне оброблення даних мережі, що відповідає найвищим вимогам щодо навантажень.

NVIDIA ConnectX-7 SmartNIC забезпечує:

• швидку роботу в мережі,
• підтримку функцій зберігання інформації,
• безпеку,
• зручне управління в центрах оброблення даних, орієнтованих на хмарні рішення, штучний інтелект і корпоративні платформи.

Адаптери ConnectX SmartNIC розвантажують процесор і прискорюють шифрування на швидкості до 400 Гб/с.


Розширене управління й моніторинг

Щоб спростити керування HPE ProLiant Compute DL380a Gen12, до нього включені розширені можливості з управління й моніторингу:

• HPE iLO 6 дозволяє безпечно переглядати, налаштовувати та оновлювати сервери з будь-якої точки світу;
• HPE OneView для управління інфраструктурою працює в центрі обробки даних, допомагаючи автоматизувати та оптимізувати ІТ-операції в усіх серверах, сховищах і мережах;
• HPE GreenLake for Compute Ops Management забезпечує інтуїтивний хмарний операційний досвід, щоб безперервно моніторити роботу розподіленого обчислювального середовища, керувати ним та бачити всі його складові, незалежно від того, де перебуває обчислювальна інфраструктура.

Новий сервер HPE ProLiant Compute DL380a Gen12 — це потужне, гнучке та безпечне рішення, яке здатне задовольнити потреби сучасних підприємств у генеративному штучному інтелекті, забезпечити високу продуктивність та ефективність у всіх аспектах його використання. Завдяки Retrieval Augmented Generation (RAG), що поєднує можливості пошуку інформації та генерації тексту задля покращення результатів великих мовних моделей (LLM), новий сервер забезпечує найвищу продуктивність тонкого налаштування та інференсингу.

Технічні консультації для партнерів Мегатрейд: hpe@megatrade.ua, (044) 538-00-06

Консультації щодо партнерства та придбання: sales@megatrade.ua

El Capitan — найпотужніший суперкомп’ютер у світі