- Основне розуміння: Багато галузевих експертів кажуть, що банки не готові захистити себе від зграї агентів ШІ.
- Цитати експертів: «Сьогодні зловмисник може переслідувати справді невеликий банк і швидко з’ясувати, якою є його інфраструктура, оскільки він повністю залежить від основних постачальників. Замість того, щоб команда зосередила всі свої зусилля на відправці 1000 ракет в один банк, я думаю, вони надішлють 1000 ракет до 1000 банків, які виглядають однаково». — Кері Ренсом, керуючий директор BankTech Ventures
- Інформація про підтримку: Під час атаки Hugging Face 1200 окремих агентів спілкувалися на неавторизованій дошці оголошень і надіслали один одному 70 000 повідомлень і секретних файлів; У зломі брали активну участь 700 агентів ШІ.
Протягом багатьох років американські банки зазнавали атак ботнетів, від широко поширених атак на відмову в обслуговуванні до фішингових атак, атак програм-вимагачів тощо. Вони побудували й укріпили фортеці навколо своїх серверів і даних, включаючи брандмауери, засоби контролю доступу, багатофакторну автентифікацію, моніторинг мережі та даних, шифрування даних тощо, і змусили своїх постачальників зробити те саме.
Але чи готові вони до зовнішніх агентів ШІ, які можуть знаходити та використовувати вразливості в
Обробка контенту
«Ні, точно ні», — сказав Кері Ренсом, керуючий директор BankTech Ventures, American Banker. BankTech Ventures — це консорціум із приблизно 100 публічних банків, які інвестують у технологічні компанії. «Агенти штучного інтелекту як концепція є абсолютно новим вектором атаки. Вони не будуть схожі на масові DDoS-атаки, тому що вони також навчаться не бути такими».
Обсяг запрошення
Думки щодо того, наскільки серйозними є агенти шахрайства зі штучним інтелектом і наскільки добре до них готові банки. Нещодавній звіт METR про злом Hugging Face показав, що тисячі агентів штучного інтелекту, створених OpenAI, надіслали один одному 70 000 повідомлень і секретних файлів на зламаній дошці оголошень, допомагаючи один одному уникнути поштових скриньок, викрасти облікові дані та здійснити атаку.
Колишній контролер валюти Майк Хсу сказав, що він був вражений рівнем витонченості шахраїв зі штучним інтелектом.
«Ми знаємо, що ці моделі можуть бути надійними та креативними, але вони створили дошку оголошень, де деякі агенти по суті жертвували собою, щоб отримати більше інформації на користь інших — це майже племінне», — сказав Хсу American Banker.
За словами Кірана Вуппу, головного інформаційного директора TD Bank у США, небезпека зграї шахраїв зі штучним інтелектом реальна.
«Коли ви отримуєте цибулю назад, це дійсно залежить від того, чи є у вас правильні огорожі та моніторинг», — сказав Вуппу American Banker. «Інтеграція потужного спостереження, людського контролю та укриттів має вирішальне значення як на етапі проектування, так і під час розгортання та використання».
Вуппу зазначив, що спостережливість — відстеження того, що саме робить агент, читаючи власні звіти агента про його докази, іноді відомі як ланцюг думок — ставатиме все більш важливим, оскільки організації розгортатимуть більш просунуті агенти ШІ.
«Коли ви ставите агентам ціль і дозволяєте їм визначити найкращий спосіб досягти її, у них може бути багато варіантів», — сказав він. «Оскільки важко заздалегідь передбачити будь-який сценарій, організаціям потрібна здатність постійно контролювати, розуміти та керувати тим, як агенти приймають рішення. Саме це допомагає гарантувати, що результати відповідають бізнес-цілям, стандартам ризику та очікуванням клієнтів».
Джим Перрі, старший стратег Market Insights, вважає, що банки мають певний захист, але не готові до скоординованих атак, які діють зі швидкістю та масштабом машини.
“Сьогодні банки не беззахисні на швидкості автомобіля”, – сказав Перрі American Banker. «Багато банків, з якими ми працюємо, уже автоматизували більшу частину своєї кібербезпеки та виявлення шахрайства за допомогою власних систем і платформ безпеки сторонніх розробників. Ці системи можуть виявляти аномалії, блокувати дії та реагувати набагато швидше, ніж людина-аналітик».
І всі три основні постачальники — Fiserv, FIS і Jack Henry — заявили, що зміцнюють свою здатність протистояти складній і скоординованій кампанії агентів ШІ, зазначив він.
Але все це не гарантує стабільності на інституційному рівні.
«З скоординованими агентами ШІ змінюється характер атаки», — сказав Перрі. «Немає потреби, щоб кілька агентів перевіряли одні двері одночасно. Подумайте про тисячу маленьких дронів, які досліджують кожну точку входу одночасно, діляться тим, що вони знаходять, і коригуються на основі того, що вони роблять. Мета полягає не обов’язково в тому, щоб перемогти захист. Це знайти найслабше місце швидше, ніж те, що відбувається в усьому середовищі об’єкта».
Банки можуть мати автоматизований захист для захисту окремих систем, «але чи ці системи обмінюються інформацією та максимально адаптуються до зловмисників?» – сказав Перрі. «І коли щось передається людині для розслідування чи прийняття рішення, перевага швидкості повертається до зловмисника?»
Деякі спостерігачі применшують ризики агентів штучного інтелекту та вважають нещодавні попередження агентів штучного інтелекту частиною маркетингової кампанії розробників передового моделювання Anthropic і OpenAI.
Ерік Сігел, автор книги ШІ суттєво не змінить проблеми безпеки
Він сказав, що ЗМІ неправильно представили атаку OpenAI на Hugging Face.
«Ця аварія стала результатом людської помилки», — сказав Сігел. «Популярний образ штучної штучної істерії говорить нам, що технологія стає розумнішою, таким чином швидко набуваючи волі, волі або потенціалу обману. Світом все ще керують люди, і технологія все ще є лише інструментами в нашому розпорядженні, а не монстрами в шафах».
Малі банки піддаються більшому ризику
Ренсом сказав, що громадські банки більш вразливі до великих зовнішніх агентів штучного інтелекту, оскільки вони залежать від невеликої кількості основних постачальників банківського програмного забезпечення.
«Сьогодні зловмисник може переслідувати справді невеликий банк і швидко з’ясувати, якою є його інфраструктура, оскільки він повністю покладається на справжніх постачальників», — сказав Ренсом. «Замість того, щоб зосередити купу зусиль, щоб відправити 1000 ракет в один банк, я думаю, вони відправлять 1000 ракет в 1000 банків, які всі виглядатимуть однаково з точки входу. Вони спробують поширити це на багато банків, які раніше використовували це з тією ж проблемою. Це абсолютно новий підхід, про який, я не думаю, говорять і добре розуміють».
Більшість банків, з якими працює Ransom, — це регіональні та громадські банки, які покладаються на постачальників послуг керованої безпеки або постачальників ІТ-аутсорсингу.
«Мене завжди хвилює те, чи розуміють ці провайдери бізнес і ризики на унікальному для банківського рівня рівні, щоб мати можливість справді передбачити та завчасно намагатися їх захистити?» – сказав Ренсом. «Вони кажуть, що так, але банки є унікальною мішенню та унікальною твариною через довіру, яку вони мають, і найбільші вразливі місця не всередині банку; вони насправді є клієнтами банку. У вас є 1000 співробітників і мільйон клієнтів, і кожен із цих клієнтів є власним ризиком».
За його словами, деякі банки навчали своїх клієнтів шахрайству, фішингу та іншим видам атак.
Біометричне виявлення поведінки
Деякі учасники індустрії вважають частиною відповіді програмне забезпечення біометричного захисту поведінки, яке аналізує веб-сеанси та потоки кліків, щоб визначити прості шаблони поведінки клієнтів і повідомити про помилки, коли виникає нетипова поведінка. BioCatch, LexisNexis BehavioSec, Feedzai і Sardine є серед постачальників цього типу програмного забезпечення. У серпні Visa підписала угоду про придбання BioCatch за 2,4 мільярда доларів готівкою.
«Агенту зі штучним інтелектом буде дуже важко поводитися точно так само, як людина в тому, як він орієнтується або виконує дії, тому зняття відбитків пальців є частиною того, з чого нам потрібно почати», — сказав Ренсом. «Ви повинні постійно перебувати на цій стадії відтворення, коли вони можуть вдатися до історичних фішингових атак, щоб отримати реальні дані, але якщо вони намагаються надіслати переказ на суму 50 000 доларів США, а цей клієнт ніколи не надсилав переказ на суму 50 000 доларів США за все життя, то це має когось насторожити».
Ренсом зазначив, що ШІ допоможе як захисникам, так і нападникам. «Це робить оборону дешевшою та простішою, коли вона каже: привіт, давайте створимо кращі оцінки та правила, а не просто дивимось на речі постфактум», — сказав він. «Нам потрібно зробити більше внутрішнього моніторингу, оцінки та, можливо, призупинення».
Знай свого агента
Інше занепокоєння полягає в тому, що клієнти банку, ймовірно, будуть використовувати своїх власних агентів ШІ. За словами Ренсома, компанії, які займаються програмним забезпеченням цифрового банківського програмного забезпечення, ймовірно, створять додаткові рівні автентифікації, які розпізнають і працюють з агентами ШІ, розгорнутими від імені клієнтів.
«Відповідь полягає не в тому, щоб просто закритися, тому що це було б неприйнятно для клієнта, і це було б неприйнятно для банку, доки не буде доведена його невинність», — сказав Ренсом.
більше:
За словами Перрі, банкам потрібна «архітектура правозастосування», яка відкидає невідомих або надмірно уповноважених агентів і обмежує те, що дозволено робити навіть законним агентам.
«Банки десятиліттями запитували: «Це справді Джим намагається отримати доступ до рахунку Джима?», — сказав він. «Більше, ніж будь-коли, їм доводиться запитувати: «Чи уповноважений цей агент діяти від імені Джима?» Що Джим дозволив цьому зробити? І те, що він зараз робить, відповідає цьому дозволу?»
Багатофакторна автентифікація, моніторинг поведінки та біометрія є частиною цієї більшої архітектури. «Вам потрібна надійна ідентифікація людей і транспортних засобів, доступ із найменшими привілеями, постійні дозволи, обмеження швидкості та автоматичне обслуговування, коли щось виходить за межі», — сказав Перрі. Надбавки повинні бути пропорційні виходу. Агент, який отримує баланс рахунку, відрізняється від агента, який змінює інформацію про клієнта або переказує 50 000 доларів США.
«Зі збільшенням продуктивності повинні зростати автентифікація, авторизація та, де необхідно, авторизація людини», — сказав Перрі.
За його словами, оборона повинна відповідати на швидкості автомобіля. «Ви не можете попросити людину-аналітика досліджувати кожну підозрілу діяльність, перш ніж вжити заходів», — сказав Перрі. «Система повинна мати можливість автоматично обмежувати, ізолювати або припиняти підозрілу активність, зберігаючи контрольний слід, щоб люди могли зрозуміти, що сталося далі».
Імітація атак
За словами Перрі, банки повинні просити своїх ключових постачальників та інших критично важливих технологічних партнерів брати участь у скоординованому моделюванні атак агентів ШІ.
«Не просто запитуйте: «Ти готовий до цього?» Спробуйте разом”, – сказав він. «Імітуйте кілька незалежних агентів, які одночасно перевіряють різні точки входу, обмінюються інформацією та адаптують свою поведінку. Потім подивіться, що відбувається в усій установі — ядро, цифровий банкінг, API, системи ідентифікації, системи шахрайства та інші критичні сторонні з’єднання. Важливе питання полягає не лише в тому, чи збережено оригінал чи ні».
