Фахівці з кібербезпеки виявили нове шкідливе програмне забезпечення під назвою PromptSteal, яке застосовує група російських хакерів APT28 у кампаніях проти України. У звіті Google Threat Intelligence Group (GTIG) дослідники вказують, що це перший задокументований випадок використання шкідливого ПЗ, яке експлуатує великі мовні моделі (LLM), у реальних операціях.
За інформацією аналітиків, ключова відмінність PromptSteal полягає в тому, що замість жорстко закладених команд шкідник звертається до LLM для динамічної генерації інструкцій, які потім виконуються на скомпрометованій машині. Програма маскується під інструмент для генерації зображень і крок за кроком веде користувача через серію підказок; одночасно вона робить запити до API сервісів на кшталт Hugging Face, використовуючи, ймовірно, викрадені токени. Отримані від моделі команди стосуються, зокрема, збору системної інформації та копіювання документів у вказані каталоги, після чого дані вивантажуються з пристрою.
Дослідники GTIG підкреслюють, що PromptSteal, ймовірно, ще на стадії розробки, проте вже є індикатором того, як зловмисники можуть інтегрувати ШІ у свої інструменти для підвищення гнучкості та прихованості атак. Застосування LLM дозволяє зловмисникам динамічно формувати команди й обходити традиційні сигнатурні методи виявлення, що створює додаткові виклики для оборони.
У звіті також робиться паралель із новими сімействами шкідливого ПЗ на кшталт EvilAI, які поєднують код, згенерований штучним інтелектом, з класичними троянськими методами, зберігаючи при цьому підвищену прихованість. Аналітики попереджають, що поява таких інструментів означає необхідність адаптації підходів до кіберзахисту.
Експерти з кібербезпеки радять організаціям переглянути захист облікових записів та API-токенів, оперативно виявляти підозрілі запити до зовнішніх сервісів та посилювати моніторинг витоку даних. Також наголошують на важливості оновлення програмного забезпечення, розмежування прав доступу й навчання персоналу розпізнаванню фішингових і соціально-інженерних ризиків, які часто використовуються для початкового проникнення.
PromptSteal є ще одним прикладом того, як технології штучного інтелекту як у законних, так і в зловмисних цілях змінюють ландшафт кібербезпеки, і підкреслює потребу в оновлених методах захисту й оперативному обміні розвідданими між організаціями та державними структурами.