Кількість керованих ШІ кібератак зростає: наслідки для сучасної безпеки

За матерілами Амріта Талапатри radware.com

Сьогодні штучний інтелект (ШІ) здійснює революцію в багатьох галузях, але водночас стає двосічним мечем у сфері кібербезпеки, адже тепер зловмисники можуть використовувати ШІ для більш ефективного й швидкого проведення атак. 

Ось кілька прикладів таких атак:

• Фішингові атаки Midnight Blizzard. У 2023 році російська хакерська група, відома як Midnight Blizzard, використала ШІ для проведення фішингових атак через Microsoft Teams. Вони скомпрометували облікові записи Microsoft 365 для малого бізнесу, щоб запустити нові атаки з використанням соціальної інженерії, продемонструвавши еволюцію загроз із залученням ШІ.
• Злом Gmail AI. На початку цього року відбулася складна фішингова атака з використанням ШІ, спрямована на користувачів Gmail. За допомогою ШІ зловмисники створили дуже переконливі електронні листи й навіть підроблені аудіозаписи, які мали вигляд технічної підтримки Google. Ця атака вирізнялася тим, що змогла обійти двофакторну автентифікацію (2FA) і обманом змусила користувачів розкрити свої облікові дані.
• Використання зловмисниками Deepfake. У лютому 2025 року шахраї використали згенерований штучним інтелектом deepfake, щоб викрасти 25 мільйонів доларів у британської інжинірингової компанії Arup. Зловмисники створили реалістичне Deepfake-відео з генеральним директором компанії і поширили його серед працівників цієї організації, щоб ті перевели кошти на шахрайський рахунок.

Вкрай важливо стримувати ці атаки зараз, у процесі еволюції ШІ, оскільки з кожним днем і з кожним новим досягненням у цій галузі зловмисники отримують дедалі витонченіші інструменти для здійснення складних кібератак.

Розгляньмо типові методи використання ШІ з боку зловмисників, а також арсенал ШІ в системах Radware для протидії цим атакам. 

Кібератаки, керовані ШІ

Кібератаки, керовані штучним інтелектом, використовують алгоритми ШІ та машинного навчання (МН) для автоматизації, покращення та прискорення різних етапів кібератаки. 

Ось деякі з їхніх ключових характеристик:

• Автоматизація і швидкість. Атаки можуть здійснюватися з величезною швидкістю і в безпрецедентних масштабах.
• Витонченість і адаптивність. ШІ допомагає зловмисникам створювати більш складні та адаптивні загрози.
• Персоналізація. ШІ здатен аналізувати величезні обсяги даних для створення дуже персоналізованих атак.
• Технологія глибокої підробки. ШІ може генерувати реалістичний аудіо- та відеоконтент, відомий як deepfakes, щоб обманювати та маніпулювати цілями.

Відмінності між традиційними кібератаками та кібератаками, керованими ШІ

	Традиційні кібератаки	Кібератаки, керовані ШІ
РОЗВИТОК	Часто вимагають значних ручних зусиль (створення фішингових листів або розробка шкідливого програмного забезпечення)	Можуть бути автоматизовані, що допомагає зловмисникам запускати більш масштабні та ефективні кампанії
СКЛАДНІСТЬ	Традиційні кібератаки зазвичай статичні, тобто не змінюються після розгортання	Динамічно адаптуються до засобів захисту цільової системи, що ускладнює їх виявлення та нейтралізацію
АДАПТИВНІСТЬ	Традиційні заходи кібербезпеки часто мають реактивний характер, тобто реагують на загрози після їх виявлення	Кібератаки, керовані ШІ, вимагають проактивного підходу, який передбачає використання ШІ для прогнозування та протидії потенційним загрозам ще до того, як вони зможуть завдати шкоди

Кібератаки, керовані штучним інтелектом, використовують передові алгоритми для підвищення ефективності та результативності кіберзагроз. 

Ось деякі з найпоширеніших типів:
 

1. Фішингові атаки, керовані ШІ. Алгоритми ШІ аналізують величезні обсяги даних, щоб створювати персоналізовані фішингові електронні листи. Ці листи оформлені так, щоб справити враження таких, що надійшли від надійних контактів. Це збільшує ймовірність того, що одержувач перейде за шкідливим посиланням або надасть конфіденційну інформацію.
2. Deepfake-атаки. ШІ може генерувати реалістичний аудіо- та відеоконтент, відомий як deepfake, для обману та маніпулювання цілями. Ці фейки можуть імітувати голос і зовнішність інших людей та спонукати звичайних споживачів до шкідливих дій.
3. Ворожі ШІ/МН-атаки. Ці атаки передбачають маніпуляції зі штучним інтелектом і моделями машинного навчання шляхом внесення ледь помітних змін у вхідні дані. Це може призвести до того, що моделі видаватимуть неправильні результати, що допоможе зловмисникам обходити заходи безпеки.
4. Атаки соціальної інженерії на основі ШІ. Алгоритми ШІ допомагають у дослідженні, створенні творчих концепцій та здійсненні атак соціальної інженерії. У таких атаках використовується людська психологія, мета якої — змусити людей розголошувати конфіденційну інформацію або виконувати дії, які ставлять під загрозу безпеку.
5. Шкідливі GPT. Генеративні попередньо навчені трансформери (Generative Pre-trained Transformers, GPTs — тобто нейромережі, що розуміють людську мову та здатні генерувати зв’язний текст чи відповідати на запитання) можуть використовуватися для створення шкідливого контенту, наприклад, фейкових новин, спаму або шкідливого коду. Ці моделі здатні автоматизувати створення великих обсягів шкідливого контенту, що ускладнює його виявлення та протидію йому.
6. Атаки з використанням програм-вимагачів. ШІ може підвищити ефективність атак з використанням програм-вимагачів через автоматизацію ідентифікації цінних даних та оптимізацію процесу шифрування. Це робить атаки зловмисників ефективнішими та складнішими для протидії.

Ці приклади свідчать про різноманітний характер кібератак, керованих ШІ, що постійно розвивається, і підкреслюють необхідність у вдосконалених та адаптивних заходів кібербезпеки.

Radware щодня стикається з атаками з використанням ШІ та ефективно їх блокує
Вендор використовує ШІ для безперервного аналізу загроз і оновлення заходів безпеки в режимі реального часу, щоб протистояти новим векторам атак.   

Стратегії нейтралізації наслідків

Radware щодня стикається з атаками з використанням ШІ та ефективно з ними справляється. Для прикладу, останнім часом система Radware Bot Manager фіксує тенденцію застосування вебскрапінгу із залученням GPT-технологій. Простим методом виявлення таких атак є аналіз рядка User-Agent, який часто містить посилання на GPT. Ця методика допомагає запобігти кібератакам, керованим ШІ, що генеруються зловмисними GPT, позначаючи та блокуючи підозрілий трафік.

Вкрай важливо розробити та впровадити ефективні стратегії пом'якшення наслідків. 

Ось кілька основних підходів:

	Стратегії	Технологія Radware
Системи безпеки на основі ШІ	Використання ШІ для посилення захисту кібербезпеки. ШІ може аналізувати величезні обсяги даних для виявлення аномалій та потенційних загроз у режимі реального часу.	Сьогодні рішення Radware використовують системи безпеки на основі ШІ, які знаходять незвичайні патерни в мережевому трафіку. Після виявлення вони автоматично надсилають сповіщення про потенційні вторгнення до центрів управління безпекою (SOC-команди) в компанії.
Рекомендації щодо політики	Використання ШІ для визначення шаблонів атак і пропозиції варіантів їх усунення.	Після того, як системи захисту виявляють шаблон атаки, команди SOC отримують рекомендовані політики, ефективні для усунення атак.  Кожен запит, що надходить до Radware Systems, проходить через системи захисту на основі ШІ. Це допомагає тренувати системи проти ворожих атак, підвищуючи в такий спосіб стійкість ШІ-моделей до реальних загроз.
Навчання з протистояння	Навчання АІ-моделей розпізнавати ворожі атаки та захищатися від них, що передбачає тестування моделей різними сценаріями атак на етапі навчання.	Кожен запит, що надходить до Radware Systems, проходить через системи захисту на основі ШІ. Це допомагає навчати системи в протистоянні ворожим атакам, підвищуючи в такий спосіб стійкість ШІ-моделей до реальних загроз.
Надійне управління даними	Забезпечення цілісності та безпеки даних, що використовуються для навчання ШІ-моделей. Це передбачає впровадження суворих процесів валідації та санітарної обробки даних.	Radware проводить регулярний аудит і очищення навчальних наборів інформації, щоб видалити будь-які шкідливі або пошкоджені дані, що можуть скомпрометувати ШІ-модель.
Зворотний зв'язок з людьми	Важливо залучати людей до системи ШІ задля підвищення безпеки. Люди-аналітики здатні надавати контекст і інформацію, яку ШІ може пропустити, водночас ШІ може керувати масштабним аналізом даних.	SOC-команди Radware використовують ШІ для автоматизації рутинних завдань, що дає змогу аналітикам зосередитися на більш складних і стратегічних питаннях, пов'язаних з додаванням зворотного зв'язку в системи ШІ для оптимізації безпеки.
Постійний моніторинг та адаптація	Впровадження безперервного моніторингу та адаптивних заходів безпеки для реагування на нові загрози передбачає регулярне оновлення моделей ШІ та протоколів безпеки.	Radware використовує ШІ для безперервного аналізу каналів розвідки загроз і оновлення заходів безпеки в режимі реального часу, щоб протистояти новим векторам атак.

Висновок

Щоб випередити загрози, керовані ШІ, потрібно дотримуватися наступних рекомендацій:

1. Бути в курсі останніх подій у сфері ШІ та кібербезпеки.
2. Впроваджувати найкращі практики безпеки, наприклад, використовувати надійні паролі та багатофакторну автентифікацію.
3. Розширювати можливості виявлення загроз і реагування на них за допомогою рішень на основі ШІ.
4. Підвищувати обізнаність про кібербезпеку серед працівників і спільнот.
5. Співпрацювати з експертами для розробки надійної стратегії безпеки.

Майбутнє ШІ в кібербезпеці пов'язане з поліпшеним виявленням загроз, адаптивними механізмами захисту, співпрацею людини й ШІ, етичними міркуваннями й безперервною гонкою озброєнь між зловмисниками і захисниками. З розвитком технології ШІ зростатимуть і можливості кіберзловмисників, що вимагатиме розробки більш надійних і адаптивних механізмів захисту.

Дізнайтеся більше про рішення Radware Bot Manager у експертів офіційного дистриб'ютора Radware в Україні — компанії Мегатрейд: radware@megatrade.ua, (044) 538–00–06
 
DefensePro X: наступний рівень захисту від DDoS

Kubernetes WAF: захист даних і застосунків для мікросервісних архітектур