безпеки
З 225 уразливостей, знайдених Glasswing і відстежених дослідником VulnCheck, лише одна підтвердила використання в дикій природі.
За словами дослідника безпеки VulnCheck Патріка Гарріті, незважаючи на занепокоєння, що навички полювання на помилки передових моделей штучного інтелекту змусять зловмисників використовувати нещодавно виявлені CVE, менше 0,5 відсотка вразливостей, пов’язаних з Anthropic або Project Glasswing, уражено в дикій природі.
Garrity почав відстежувати CVE, пов’язані з Project Glasswing, ініціативою Anthropic щодо надання вибраним партнерам доступу до моделі Claude Mythos Preview, незабаром після того, як компанія AI оголосила про програму в квітні.
У той час Anthropic заявив, що нова модель була надто ризикованою, щоб оприлюднювати її публічно, оскільки її навички пошуку помилок і використання були поза межами досяжності для всіх, крім найбільш досвідчених людей. Таким чином, Anthropic обмежив доступ до Mythos Preview для перевірених учасників Glasswing, які використовують модель для роботи, пов’язаної з безпекою, включаючи пошук і виправлення недоліків у своїх програмних продуктах і залежностях із відкритим кодом.
Відстеження Anthropic CVE Garrity зберігає список уразливостей, пов’язаних із командою Anthropic та/або Project Glasswing, а також перевіряє ці CVE за індексом уразливості компанії, «щоб краще прочитати фактор ризику «Glasswing».
Станом на понеділок кількість CVE становить 225, і лише одна критична помилка SQL-ін’єкції в Ghost (CVE-2026-26980) була використана в дикій природі.
«Існує велика різниця між пошуком вразливостей і тим, чи будуть вони дійсно корисними та використаними суб’єктами загроз», — сказав Гарріті. зареєструватися. «Головне, що підкреслюють ці дані, полягає в тому, що те, що виявляє та розкриває Anthropic, має дуже обмежений вплив і, з того, що ми можемо сказати, не призводить до інших результатів з точки зору загрози, ніж випадковий вибір інших вразливостей».
Anthropic не відразу відповів на наші запитання, але ми оновимо цю історію, якщо отримаємо відповідь.
Гарріті каже, що він не заперечує здатність ШІ знаходити помилки.
Велика частина істерії, яку ми бачимо, припускає, що кожна вразливість або помилка, ймовірно, буде використана загрозливими суб’єктами. Але реальність така, що лише невелика частина використовується в кампаніях з експлуатації
Насправді будь-кому, хто читав інформацію про безпеку за останні кілька місяців, було б важко стверджувати, що моделі штучного інтелекту не виявляють більше вразливостей у безпеці, ніж було раніше. Приклад: останнє масове виправлення від Microsoft, Apple, Palo Alto Networks і навіть не починайте працювати над проектами з відкритим кодом.
Крім того, як зазначив Гаррі, ці навички пошуку вразливостей не є «специфічними можливостями однієї моделі чи інструменту».
«Багато істерії, яку ми бачимо, припускають, що кожна вразливість або помилка використовуються загрозливими суб’єктами», — сказав він. зареєструватися. «Але реальність така, що лише невелика частина з них коли-небудь використовується в експлойт-кампаніях. Історично менше одного відсотка до двох відсотків уразливостей використовуються як зброя та в дикій природі».
Крім того, незважаючи на те, що новітні моделі штучного інтелекту чудово знаходять помилки, вони поки що погано справляються з їх виправленням, як показали кілька останніх досліджень.
В одному з них дослідницька група 1Password створила та проаналізувала 6080 патчів, згенерованих двома граничними моделями: ChatGPT-5.5 OpenAI та Opus 4.8 Anthropic. Моделі генерували виправлення, які повністю виправляли вразливість лише в 26 відсотках випадків, тоді як приблизно в 54 відсотках або не вдалося усунути вразливість, ввели нову вразливість або зробили і те, і інше.
Інше дослідження, проведене магазином безпеки додатків Veracode, показало, що в більш ніж 100 моделях і 80 завданнях кодування середній рівень безпеки коду, згенерованого ШІ, становив лише 56 відсотків.
Усе це означає, що для роботи над розробкою та впровадженням безпекових реформ все ще потрібні люди.
«Це набагато нижче для виявлення вразливостей за допомогою штучного інтелекту, але реальна прогалина в подальшому полягає в координації, сортуванні, виправленні та виправленні, що все ще є роботою, яка інтенсивно потребує людей, як визнала сама Anthropic», — сказав Гарріті. «Здається, вони, можливо, не усвідомлювали цього, поки не розпочали проект».®
