Іспитувальники державного банку отримають буклет для перевірки ШІ

• Базове розуміння: Структура CSBS включає генератори та агентства штучного інтелекту, технології Федеральної резервної системи, OCC і FDIC, які були винесені за межі їх переглянутого керівництва щодо моделі ризику в квітні.
• Що поставлено на карту?: Державні органи контролюють 3355 із 4233 банків і ощадних установ країни, застрахованих FDIC, тому більшість банків США можуть зіткнутися з новими запитаннями під час наступного державного іспиту.
• вперед: Кожна державна установа самостійно вирішує, чи включати структуру в свою програму нагляду, і CSBS не публікує їх кількість.

Переглядайте знімки, створені штучним інтелектом, за допомогою редакційної рецензії.

Обробка контенту

У середу коаліція державних регуляторів оприлюднила процедури, які експерти можуть використовувати для розслідування використання штучного інтелекту в державних банках.

Конференція наглядових органів державних банків, яка представляє органи фінансового регулювання у всіх 50 штатах, окрузі Колумбія та чотирьох територіях США, опублікувала те, що вона назвала Структура управління ШІ. До нього входять державні статутні банки та ліцензовані небанківські фінансові компанії.

Він включає п’ять документів: основний посібник для екзаменаторів, 28-сторінкову робочу програму, яка описує процедури екзаменатора, додаток, що включає небанківські операції, робочий аркуш для оцінки індивідуального використання штучного інтелекту на основі ризику та односторінковий список вихідних матеріалів CSBS, використаних для розробки основи.

Для банкірів нова структура є попереднім переглядом наступного випробування. CSBS випустив його, щоб установи могли оцінити свої програми ШІ та «готуватися до іспитів». Прес-реліз у середу рамка заявляє.

За даними Федеральної корпорації страхування вкладів, державні регулятори здійснюють нагляд за 3355 (79%) із 4233 банків і ощадних установ країни. Записи FDIC до 30 червня.

Нова структура від CSBS з’явилася через кілька місяців після того, як Федеральна резервна система, Управління валютного контролера та FDIC змінили свій 15-річний термін. вказівки щодо моделі ризикуправила, які регулюють те, як банки будують, перевіряють і контролюють моделі кредитування, ціноутворення та прийняття рішень щодо ризиків.

У цьому федеральному керівництві, опублікованому в квітні, була величезна діра.

«Генеративний штучний інтелект і моделі штучного інтелекту агентств є новими та швидко розвиваються. Тому вони не входять у сферу дії цього керівництва», — йдеться в заяві агентств. (Агентний штучний інтелект відноситься до систем, які працюють автономно, з мінімальним керівництвом людини.)

CSBS звернувся до цієї діри безпосередньо в середу.

Оскільки деякі існуючі ресурси моделі ризику «не повністю стосуються ШІ, агентів ШІ чи подібних можливостей», експерти можуть використовувати структуру CSBS для визначення «конкретних міркувань ШІ, які можуть потребувати додаткового розгляду». основний іспитовий посібник.

Фреймворк є повністю додатковим інструментом; Кожна державна установа вирішує, скільки прийняти, і це «не створює нових юридичних зобов’язань або вимог щодо нагляду», відповідно до вказівок.

«Хоча будь-яка нова технологія може становити ризики, система нагляду за штучним інтелектом CSBS забезпечує підхід до управління, заснований на принципах, щоб допомогти фінансовим установам досліджувати та впроваджувати штучний інтелект з додатковою впевненістю», — сказав Брендон Мілхорн, президент і генеральний директор CSBS, у прес-релізі.

Як екзаменатор запитує спочатку

В основному посібнику наведено вісім запитань, які екзаменатор повинен поставити будь-якому банку:

1. Чи використовує банк взагалі ШІ?
2. Чи визначено де?
3. Чи впливає ШІ на клієнтів чи визначає рішення?
4. Чи покладається банк на зовнішніх постачальників або платформи для штучного інтелекту?
5. Чи досліджував банк AI у продуктах постачальників, які він уже використовує?
6. Чи використовує банк генеративний ШІ?
7. Чи сортує банк використання ШІ за ризиком?
8. Чи проходять клієнтські та інші конфіденційні дані через будь-який ШІ?

Нечітка або негативна відповідь на перше запитання «може вимагати схвалення щодо інвентаризації постачальника установи, інвентаризації програмного забезпечення, схвалених інструментів і останніх змін продукту чи платформи», йдеться в інструкціях.
Додатковий контроль важливий, оскільки, згідно з робочою програмою, використання штучного інтелекту «можна пропустити, якщо він вбудований у програмне забезпечення або розглядається як функція, а не як окрема система чи варіант використання».

У базових інструкціях сказано, що екзаменатори можуть вимагати такі документи, як політика штучного інтелекту, інвентаризація, звіти правління та зразки створеного штучним інтелектом контенту, який бачать клієнти (включаючи стенограми чат-ботів).

Експерти також можуть включити умови контракту, які передбачають «використання, зберігання, спільний доступ або вивчення систем штучного інтелекту про клієнтів, споживачів, конфіденційну або інституційну інформацію».

Питання про те, як ШІ діє самостійно

Якщо установа впроваджує агентський штучний інтелект, CSBS надає дослідникам інформацію про те, як банк визначає дії системи агентства, контрольні точки, де втручання людини в дії та рішення системи записується, скасовується, а також можливість обмежити або призупинити систему. програма роботи.

Останній пункт (стійкість системи) є однією з двох сфер, у яких банкіри повідомляють про найменшу готовність.

в опитування на початку цього року У результаті дослідження, проведеного компанією Wolters Kluwer, що надає програмні та інформаційні послуги, майже три чверті (72%) із 230 банкірів, які відповіли, вказали або протоколи знищення зразків, або нормативні звіти про збої штучного інтелекту як зони ризику, до яких вони були найменш готові.

Банки самостійно заповнюють аркуш

Телефонує CSBS його робочий аркуш для оцінки ризиків штучного інтелекту «факультативний інструмент галузі» на сторінці відкриття рамки. Банки заповнюють робочий аркуш для кожного використання ШІ та зберігають його «як підтримку запитів на експертизу» відповідно до форми.

Для кожного випадку використання штучного інтелекту в банку робоча таблиця призначає загальний рівень ризику від 1 до 3. Чотири фактори сприяють оцінці: наскільки варіант використання штучного інтелекту впливає на споживачів, наскільки він передбачає людський контроль, наскільки шкідливою може бути помилка або збій і наскільки конфіденційними є дані.

Рівень 3, найнебезпечніший, «передбачає прямі наслідки для споживачів, конфіденційну особисту інформацію, обмежену перевірку людьми, значну операційну надійність або потенційну матеріальну шкоду від помилок або збоїв», — йдеться в робочому документі.

Згідно з робочим документом, конфіденційні дані включають захищену інформацію про ступінь і біометричні дані, а також «елементи даних, які можуть служити проксі для захищених характеристик».

Контроль накопичується в міру зростання ризику. Рівень 1 вимагає інвентарного запису, який містить ім’я відповідного власника бізнесу та письмову політику щодо прийнятного використання ШІ. Рівень 2 документує, як ШІ досягає всіх результатів, які бачить клієнт.

Варіант використання рівня 3 включає все це, а також незалежну перевірку моделі кваліфікованою стороною та процедури реагування на інциденти, розроблені спеціально для ШІ.

Ті самі питання, незалежно від розміру банку

CSBS не призначає доларові цифри, коефіцієнти помилок, кількість споживачів чи інші абсолютні показники жодному рейтингу ризику. Натомість організація хоче, щоб усе було масштабовано відповідно до «розміру, складності, профілю ризику та використання штучного інтелекту» закладу, згідно з інструкціями.

Ті самі вісім питань, список запитів на документи та робочий аркуш стосуються кожного державного чартерного агентства. Тим часом у квітневих інструкціях щодо федеральної моделі ризиків говориться, що вона «очікується, що вона підійде для банківських організацій із загальними активами понад 30 мільярдів доларів».

Згідно з аналізом піврічних звітів American Banker, серед державних статутних організацій близько 99% мають активи 30 мільярдів доларів або менше.

Іншими словами, більшість державних банків знаходяться нижче межі, встановленої федеральними правилами.

Навпаки, структура CSBS, опублікована в середу, застосовується до статутних установ будь-якого розміру, від Roxboro Savings Bank, банку з двома філіями в Північній Кароліні з 360,7 мільйонами доларів США, до Goldman Sachs Bank USA, активи якого становлять 758,8 мільярдів доларів.