Тенденції штучного інтелекту, які змінюють уявлення про датацентри майбутнього
Тенденції штучного інтелекту, які змінюють уявлення про датацентри майбутнього
Запуск ChatGPT у листопаді 2022 року започаткував революцію у сфері штучного інтелекту, трансформуючи галузі та змінюючи робочі процеси, підвищуючи ефективність та продуктивність. Як це вплине на центри обробки даних?
20.02.2024
За матеріалами Боба Вагнера (Bob Wagner), panduit.com
Зазвичай штучний інтелект (ШІ) поділяють на дві основні категорії: генеративний і прогнозний. Генеративний ШІ (GenAI, ГенШІ) використовує наявні дані як основу для створення нового оригінального контенту: написання спікерських промов, статей, генерації зображень або створення нових продуктів. Прогнозний ШІ застосовується для прогнозування на основі тенденцій даних із метою покращення прийняття рішень. ГенШІ часто використовується в маркетингу, дизайні та медицині. Прогнозний ШІ застосовують в аналізі ринку, профілактичному обслуговуванні та фінансовому секторі.
Вдосконалені алгоритми та можливості машинного навчання прогнозного ШІ дають змогу аналізувати величезні обсяги даних у режимі реального часу, що робить датацентри більш інтелектуальними та адаптивними. Вони можуть передбачати та розв’язувати потенційні проблеми до їх виникнення, забезпечуючи максимальний час безвідмовної роботи та надійність — те, що найбільше цінують клієнти датацентрів.
На конференції компанія NVIDIA представила нове покоління прискорювачів ШІ на графічних процесорах з архітектурою Blackwell. На діаграмі нижче показано збільшення потужності та швидкості обчислень для трьох різних серверів NVIDIA з 8 графічними процесорами кожен.
Діаграма, що показує максимальну споживану потужність та швидкість обчислення прискорювачів ШІ (Джерело: NVIDIA, Goldman Sachs Research)
Хоча може пройти деякий час, перш ніж продукти на основі Blackwell з’являться на ринку, це вже надало компаніям, що займаються датацентрами, чітке уявлення про необхідну інфраструктуру для підтримання нових рішень. Повна стійка із чотирьох DGX B200 споживатиме 60 кВт, тоді як більш потужний NVL72 SuperPod, що використовує суперчіп GB200, споживатиме 120 кВт і потребуватиме рідинного охолодження безпосередньо на чіпі. Крім того, NVIDIA анонсувала свій наступний графічний процесор під назвою Rubin, який планують випустити у 2026 році, з оптимізацією для підвищення енергоефективності.
На конференції DC World Алі Фенн (Ali Fenn), президентка Lancium, зазначила: «ШІ стане найбільшим капіталовкладенням в історії», підкреслюючи, що енергопостачання буде визначальним чинником у темпах розвитку цієї технології, навіть більше, ніж розвиток технологій GPU. Занепокоєння щодо електроживлення було ще до появи ШІ, коли середня стійка вимагала лише 10 кВт, але тепер, із підвищенням потужності стійок до 12 разів, це питання стало ще більш актуальним і критичним.
Збільшення кількості систем ШІ в центрах обробки даних і значне споживання електроенергії на одну стійку роблять рідинне охолодження дедалі більш необхідним. На виставковому майданчику DC World понад 10 компаній-виробників рідинного охолодження представили свої продукти, причому значна частина з них — це стартапи, засновані менш ніж два роки тому. Вважається, що рідинне охолодження доцільно застосовувати, коли потужність стійки перевищує 40 кВт. Проте, додавання систем рідинного охолодження в наявні датацентри — це складне завдання. Деякі топменеджери ЦОД жартують, що тепер їм, ймовірно, доведеться додавати сантехніків до свого штату.
Щоб об’єднати всі графічні процесори в єдиний кластер для виконання масштабних завдань ШІ, необхідні оптоволоконні кабелі та високошвидкісні оптичні приймачі. Маючи до 8 графічних процесорів на сервер, кожен із яких підтримує швидкість передачі даних до 800 Гбіт/с, багато центрів обробки даних зіткнуться із 4-кратним збільшенням кількості оптоволоконних кабелів. Це призведе до перевантаження кабельних трас та необхідності прокладання ширших мереж, таких як 24 або 36 дюймів, а також багаторівневих систем, якщо простір під стелею дає змогу це зробити.
Поєднання всіх цих змін вимагає від багатьох компаній, що займаються датацентрами, визнати, що модернізація наявних датацентрів не завжди доцільна. Доведеться зводити нові споруди в районах із великими обсягами недорогої електроенергії. Нові датацентри із ШІ будуть спеціально обладнані рідинними системами охолодження (водяними або діелектричними), ширшими кабельними каналами та товстішими бетонними підлогами для розміщення важкого обладнання ШІ.
Компанія Panduit дотримується клієнтоорієнтованого підходу до впровадження ШІ, підкреслюючи свою корпоративну відповідальність і зобов’язання бути надійним радником для клієнтів, підтримуючи їх на кожному етапі цього процесу. Panduit прагне бути в авангарді революції ЦОД, пропонуючи клієнтам інноваційні рішення та експертний досвід, які допоможуть їм успішно адаптуватися до змін.
Зазвичай штучний інтелект (ШІ) поділяють на дві основні категорії: генеративний і прогнозний. Генеративний ШІ (GenAI, ГенШІ) використовує наявні дані як основу для створення нового оригінального контенту: написання спікерських промов, статей, генерації зображень або створення нових продуктів. Прогнозний ШІ застосовується для прогнозування на основі тенденцій даних із метою покращення прийняття рішень. ГенШІ часто використовується в маркетингу, дизайні та медицині. Прогнозний ШІ застосовують в аналізі ринку, профілактичному обслуговуванні та фінансовому секторі.
Вдосконалені алгоритми та можливості машинного навчання прогнозного ШІ дають змогу аналізувати величезні обсяги даних у режимі реального часу, що робить датацентри більш інтелектуальними та адаптивними. Вони можуть передбачати та розв’язувати потенційні проблеми до їх виникнення, забезпечуючи максимальний час безвідмовної роботи та надійність — те, що найбільше цінують клієнти датацентрів.
Нові графічні процесори стимулюють розвиток ШІ
У березні 2024 року відбулася глобальна конференція із ШІ для розробників NVIDIA GTC і OFC 2024 (Optical Fiber Communications Conference and Exhibition), а в травні — конференція для професіоналів індустрії датацентрів DC World. На кожному із цих заходів було представлено чимало нової інформації, але здебільшого в розмовах домінувала тема ШІ. NVIDIA GTC дала детальну інформацію про найновіші та найпотужніші технології GPU, OFC презентувала новітні технології високошвидкісних мереж, а DC World дала уявлення про те, як усе це вплине на вимоги до центрів обробки даних.На конференції компанія NVIDIA представила нове покоління прискорювачів ШІ на графічних процесорах з архітектурою Blackwell. На діаграмі нижче показано збільшення потужності та швидкості обчислень для трьох різних серверів NVIDIA з 8 графічними процесорами кожен.
Діаграма, що показує максимальну споживану потужність та швидкість обчислення прискорювачів ШІ (Джерело: NVIDIA, Goldman Sachs Research)
Хоча може пройти деякий час, перш ніж продукти на основі Blackwell з’являться на ринку, це вже надало компаніям, що займаються датацентрами, чітке уявлення про необхідну інфраструктуру для підтримання нових рішень. Повна стійка із чотирьох DGX B200 споживатиме 60 кВт, тоді як більш потужний NVL72 SuperPod, що використовує суперчіп GB200, споживатиме 120 кВт і потребуватиме рідинного охолодження безпосередньо на чіпі. Крім того, NVIDIA анонсувала свій наступний графічний процесор під назвою Rubin, який планують випустити у 2026 році, з оптимізацією для підвищення енергоефективності.
На конференції DC World Алі Фенн (Ali Fenn), президентка Lancium, зазначила: «ШІ стане найбільшим капіталовкладенням в історії», підкреслюючи, що енергопостачання буде визначальним чинником у темпах розвитку цієї технології, навіть більше, ніж розвиток технологій GPU. Занепокоєння щодо електроживлення було ще до появи ШІ, коли середня стійка вимагала лише 10 кВт, але тепер, із підвищенням потужності стійок до 12 разів, це питання стало ще більш актуальним і критичним.
Збільшення кількості систем ШІ в центрах обробки даних і значне споживання електроенергії на одну стійку роблять рідинне охолодження дедалі більш необхідним. На виставковому майданчику DC World понад 10 компаній-виробників рідинного охолодження представили свої продукти, причому значна частина з них — це стартапи, засновані менш ніж два роки тому. Вважається, що рідинне охолодження доцільно застосовувати, коли потужність стійки перевищує 40 кВт. Проте, додавання систем рідинного охолодження в наявні датацентри — це складне завдання. Деякі топменеджери ЦОД жартують, що тепер їм, ймовірно, доведеться додавати сантехніків до свого штату.
Щоб об’єднати всі графічні процесори в єдиний кластер для виконання масштабних завдань ШІ, необхідні оптоволоконні кабелі та високошвидкісні оптичні приймачі. Маючи до 8 графічних процесорів на сервер, кожен із яких підтримує швидкість передачі даних до 800 Гбіт/с, багато центрів обробки даних зіткнуться із 4-кратним збільшенням кількості оптоволоконних кабелів. Це призведе до перевантаження кабельних трас та необхідності прокладання ширших мереж, таких як 24 або 36 дюймів, а також багаторівневих систем, якщо простір під стелею дає змогу це зробити.
Нові центри обробки даних із ШІ вимагатимуть створення нового середовища
Такі центри мають проєктуватися так, щоб бути масштабованими та гнучкими, аби обробляти робочі навантаження ШІ. Високошвидкісні мережі з низькою затримкою, надійні системи зберігання та передові методи управління даними є критично важливими для ефективної роботи з даними ШІ. Оператори ЦОД також відчуватимуть висхідний тиск із боку суспільства щодо зменшення впливу своєї діяльності на довкілля, тому використання відновлюваних джерел енергії стане практично обов’язковим. Через обмеження електромереж у багатьох регіонах світу навіть ядерна енергетика привертає серйозну увагу як спосіб зменшення вуглецевого сліду та додаткове джерело енергії. Масштабованість, гнучкість, безпека та екологічна стійкість — важливі чинники при проєктуванні та експлуатації ЦОД із ШІ.Поєднання всіх цих змін вимагає від багатьох компаній, що займаються датацентрами, визнати, що модернізація наявних датацентрів не завжди доцільна. Доведеться зводити нові споруди в районах із великими обсягами недорогої електроенергії. Нові датацентри із ШІ будуть спеціально обладнані рідинними системами охолодження (водяними або діелектричними), ширшими кабельними каналами та товстішими бетонними підлогами для розміщення важкого обладнання ШІ.
Виклики впровадження штучного інтелекту в датацентрах та роль компанії Panduit
Незважаючи на величезні переваги ШІ, процес його впровадження в датацентрах супроводжується багатьма проблемами. Зокрема мова йде про такі виклики та потреби:- Більше потужності для обробки висхідних обсягів даних
- Інноваційні системи охолодження
- Збільшення в 4 рази кількості волоконно-оптичних кабелів, що використовуються для з’єднання серверів і комутаторів
- Розширені канали
- Конструкції, які допомагають збільшити пропускну здатність без порушення наявних кабельних мереж
- Підвищена стійкість
Компанія Panduit дотримується клієнтоорієнтованого підходу до впровадження ШІ, підкреслюючи свою корпоративну відповідальність і зобов’язання бути надійним радником для клієнтів, підтримуючи їх на кожному етапі цього процесу. Panduit прагне бути в авангарді революції ЦОД, пропонуючи клієнтам інноваційні рішення та експертний досвід, які допоможуть їм успішно адаптуватися до змін.
Технічні консультації для партнерів Мегатрейд: panduit@megatrade.ua, (044) 538–00–06
Консультації щодо партнерства та придбання продукції Panduit: sales@megatrade.ua
Panduit виводить на глобальний ринок PDU серії G6 iз підтриманням протоколу IPV6