Заглядаючи вперед: Дослідники з Cisco Talos знайшли шкідливий інструмент для Windows, який використовує кілька великих мовних моделей, щоб визначити, що робити на зараженій машині. Його відкриття вказує на все ще обмежену, але зростаючу групу зловмисного програмного забезпечення на основі ШІ, яке виходить за рамки генерації коду та підтримки фішингу. Відкриття також дає захисникам ранній погляд на те, як зловмисники можуть створювати більш автономні та стійкі системи командування та контролю.
Зловмисне програмне забезпечення під назвою CLOSEDQUORUM перевіряє DeepSeek, Qwen, Mistral і Google Gemini, перш ніж вибрати наступний курс дій. Він може продовжувати працювати, якщо одна з цих служб недоступна, оскільки може посилатися на інші. У Cisco Talos заявили, що цей інструмент не має вбудованого способу для оператора-людини видавати команди після того, як це буде зроблено.
Дослідники кажуть, що CLOSEDQUORUM був створений для крадіжки даних для входу та криптовалюти. Вони виявили зв’язок між зловмисним програмним забезпеченням і форумом про кіберзлочинність, починаючи з шахрайства з кредитними картками до 2025 року. Talos не зміг визначити, хто створив інструмент і чи використовувався він проти справжніх цілей.
Відкриття було зроблено завдяки новому проекту Cisco Talos, який допомагає дослідникам безпеки відстежувати шкідливі програми, які покладаються на служби ШІ. Фреймворк із відкритим кодом під назвою Cognitive Artifact Intelligence Research Network або CAIRN шукає технічні підказки, пов’язані з використанням штучного інтелекту у зразках шкідливих програм.
«Основна ідея полягає в тому, що інтеграція штучного інтелекту має ці артефакти, схожі на відбитки пальців, які залишаються», — сказав Wired Райан Феттерман, дослідник безпеки Cisco Talos, який очолював розробку CAIRN. «Це дає нам сигнал, що ми можемо слідкувати за цими закономірностями, класифікувати їх і дивитися, що відбувається».
CAIRN перевіряє метадані та інші атрибути, пов’язані з інтеграцією штучного інтелекту, а потім призначає зразкам ідентифікатор, який дослідники можуть порівняти з іншими шкідливими програмами. Система групує артефакти зі схожими характеристиками та допомагає аналітикам визначати закономірності того, як зловмисники додають LLM до зловмисного програмного забезпечення та командно-контрольних операцій.
Ключовою відмінністю від CLOSEDQUORUM є використання LLM як частини самої системи контролю. Попередні приклади зловмисного програмного забезпечення, пов’язаного зі штучним інтелектом, часто використовували зловмисники для написання коду, створення фішингового вмісту або автоматизації частин кампанії. Натомість CLOSEDQUORUM використовує моделі відповідей, щоб керувати своїми діями після досягнення цільової системи.
Метт Олні, старший директор відділу аналізу загроз у Cisco Talos, сказав, що зміни показують, що ШІ переходить від інструменту підтримки до частини інфраструктури атак.
«Спочатку всі бачили ШІ як інструмент підвищення продуктивності, чи не так?» – сказав Олні. «Те, що ми зараз бачимо, це те, що це починає працювати. Тож для зловмисників це дозволяє їм запускати більше кампаній, захоплювати більше місць, контролювати більше та різні комп’ютери, тому що вони мають цю дуже розумну коробку ззаду, яка може задавати запитання та відповідати на них».
Талос розробив CAIRN після того, як Феттерман проаналізував добре задокументовані приклади шкідливого програмного забезпечення з використанням ШІ. Першим випадком був LAMEHUG, зловмисне програмне забезпечення, яке український CERT-UA пов’язав із фішинговою кампанією в липні 2025 року. Імплантат зв’язувався з Qwen2.5-Coder-32B-Instruct через API Hugging Face, щоб отримувати команди.
«У той час я думав: «Вау, це чудово». Цей великий бум зловмисного програмного забезпечення відбудеться з ШІ, і ландшафт повністю зміниться», – сказав Феттерман.
Але коли Феттерман перевірив поле приблизно через рік, він виявив набагато менше задокументованих випадків, ніж очікувалося. Він визначив приблизно дев’ять сімейств зловмисного програмного забезпечення, включаючи деякі дослідницькі докази концепції.
Відтоді CAIRN виявив ширший набір шаблонів. Феттерман сказав, що під час розробки та тестування фреймворку знайшов близько 20 додаткових прикладів шкідливих програм на основі ШІ. Він сказав, що ця діяльність залишається в основному експериментальною, але додаткові зразки показують, що публічні звіти не охоплюють повного спектру шкідливих програм на основі ШІ, які розробляються.
«Тож, хоча я вважаю, що це все ще експеримент для зловмисників, ландшафт набагато складніший і різноманітніший, ніж публічно повідомлялося», — сказав Феттерман. «Там багато чого відбувається, і це цінний ранній сигнал того, що відбувається».
