Коли мова заходить про моделі штучного інтелекту, функції безпеки залишаються позаду, про що свідчить збільшення випадків злому агентів і людей, а також інших невдач безпеки з агентами. Тут також є можливість для компаній придумати нові рішення.
На думку інвесторів у кібербезпеку та керівників акселераторів, це нікого не повинно здивувати.
«З одного боку, ми не повинні дивуватися тому, що все більш здібні агенти знаходять креативні та іноді несподівані способи досягнення своїх цілей», — сказав Метт Хартман, директор зі стратегії Merlin Group. зареєструватися. «З іншого боку, ми не можемо прийняти шкідливу поведінку як неминучу або неконтрольовану».
Така ж історія відбувається з усіма новими технологіями, від ноутбуків до хмари, сказав Тодд Грем, керуючий партнер фонду венчурного капіталу M12 Microsoft.
«Щоразу, коли ми будували нову частину інфраструктури, ми зручно забували про безпеку», — сказав Грем. зареєструватися.
Тут є можливість для охоронних компаній на ранній стадії.
«Якби ноутбуки були безпечними, у нас би не було CrowdStrike», — сказав Грем. «Якби хмара була безпекою за замовчуванням, у нас би не було Wiz. Якби ідентифікація не була безпекою за замовчуванням, у нас не було б купи програм Active Directory і Okta».
Коли мова заходить про безпеку ШІ, «багато кораблів піднімуться з цією хвилею», додав він.
Різниця з AI полягає в швидкості розробки моделей. У той час як компанії запровадили хмарні технології протягом багатьох років, організації швидко рухаються до інтеграції агентів та інших інструментів ШІ у свої виробничі середовища, дозволяючи їм отримувати доступ до даних і критично важливих для бізнесу програм. Однак вони не мають чіткого розуміння того, як керувати, захищати чи навіть ідентифікувати агентів, які вже запущені в їхніх системах.
«Це перехід, який відбувається місяць за місяцем, і, враховуючи швидкість змін, які ми бачимо на ринку, я не здивований жодним чином чи формою, що ця проблема значно загострилася», — сказав Грем. «Інциденти, які трапилися — я не збираюся їх захищати, але вони повинні стати тривожним дзвіночком. Це момент, коли нам потрібно залучити безпеку, і ми повинні залучити її швидко».
«Кораблі піднімаються» з AI Wave
Гартман приєднується до Мерліна після довгої кар’єри у федеральній кібербезпеці, включаючи керівні посади в Агентстві з кібербезпеки та безпеки інфраструктури США. Виконуючи свою роль у приватному секторі, він допомагає визначити, у які компанії з кібербезпеки на ранній стадії розвитку група інвестує, а потім співпрацює з цими компаніями, щоб розширити їхні технології в уряді, критичній інфраструктурі та на інших жорстко регульованих ринках.
«Нас особливо цікавить рівень безпеки, який керує поведінкою агентів: особистість нелюдей, точні обмеження щодо того, до чого вони можуть отримати доступ і що вони можуть робити, і журнали аудиту для дій, вжитих від імені агентства», — сказав він. «Агенти не просто запитують, як завербувати агентів, вони запитують, як обмежити їх і довести, що одна людина зробила о 2 годині ночі у вівторок».
Але хоча «можливості величезні», засновникам стартапів потрібно зробити більше, ніж просто створити продукт агентства безпеки ШІ. «ШІ зробив створення продуктів швидшим і дешевшим, ніж будь-коли раніше, тому планка диференціації зростає», — сказав Хартман. «Зі зниженням вартості будівельних технологій цінність зміщується до диференційованих можливостей і здатності вивести їх на ринок. Засновники, які можуть і те, і інше, мають реальну можливість визначити цю категорію».
Це момент, коли ми повинні запровадити безпеку, і ми повинні запровадити її швидко
Грехем також каже, що кінцеві користувачі шукають агентства ідентифікації та продукти управління — «Я дійсно вірю, що хтось створить наступну Okta, так само, як SaaS створив Okta», — але додає, що він бачить деяких засновників, які «мислять дуже мало».
“Я бачу багато компаній, які вирішують частину проблеми”, – сказав Грем. «А реальність така, що якщо я CISO для компанії зі списку Fortune 500, я ні в якому разі не збираюся купувати 15 речей, щоб зробити одну справу. Якщо ви подивитеся на стандартний стек ідентифікаційних даних, який у нас був для людей протягом тривалого часу, він має управління, знаєте, контроль доступу, авторизацію та доступ. Для агентів хтось збирається впоратися з усім за нас».
Айдентика агентства – наступний крок
Але коли мова заходить про нелюдську ідентичність, це справді велике та складне питання. Сервісні облікові записи залишаються основною мішенню для хакерів, оскільки вони зазвичай мають підвищені привілеї та паролі, які ніколи не діють. Безпека цих нелюдських облікових записів все ще хвилює команди безпеки — і це ще до того, як агенти ввійдуть у суміш.
Крім ідентичності агентства, безпека кінцевих точок штучного інтелекту — подумайте про це як CrowdStrike для штучного інтелекту — це ще одна сфера для винахідливих стартапів, сказав Грем.
Він каже, що це проблема, з якою він особисто бореться як засновник, але йому заборонено відкривати будь-яку іншу компанію, тому цього не станеться.
«Якщо у вас є порушення і ви знаєте, що вас постануть перед Конгресом, щоб пояснити, чому ви не ввімкнули свій антивірус [or] EDR, незабаром ви додасте кінцеву точку штучного інтелекту до цього списку”, – сказав Грем. “Це дуже гаряча сфера, яка ще рано, якщо хтось хоче створити якісне рішення”.
Він додав, що існуючі наскрізні та антивірусні постачальники «абсолютно» створюють продукти, щоб заповнити цю порожнечу. «Але складається враження, що це знову стане моментом зриву для всіх, особливо для тих із вас, у кого вже є певні зобов’язання».
Грем визнає, що він «стурбований» недавньою неправильною поведінкою агентів ШІ. “Якщо це залишити без обмежень, якщо це залишити напризволяще, я дуже стурбований тим, де буде кінцева точка”, – сказав він.
Однак йому «комфортно», тому що він бачив цей сценарій раніше, а безпеці важко встигати за розвитком інфраструктури. Грема також «вразило» відоме есе режисера Anthropic Даріо Амодея «Ми повинні розсунути кордон».
«Я не приймаю принизливу думку про те, що це якась велика змова навколо антимонопольного законодавства», — сказав він нам.
«Я вважаю, що штучний інтелект — це дивовижний інструмент, який змінить життя багатьох на краще. Але ми повинні діяти зараз», — сказав Грем. «Ми досить підвели систему безпеки, і тепер нам потрібно це вирішити». ®
