- Основне розуміння: Останні федеральні вказівки не опублікували правила використання штучного інтелекту банками, але перевіряючі банки вже мають деякі інструменти, щоб переконатися, що ці системи працюють безпечно.
- Інформація про підтримку: 17 квітня ФРС, OCC і FDIC випустили заміну SR 11-7.
- вперед: Хоча в оригінальному наглядовому листі, опублікованому 4 квітня 2011 року, слова «штучний інтелект» не згадувалися, насправді це найстаріший режим регулювання штучного інтелекту в країні.
Провівши десять років у Федеральному резервному банку Філадельфії, я знаю, як виглядає банківський нагляд навиворіт і як пишуться наглядові вказівки. Отже, контрольний лист No СР 11-7 від 04.04.2011 року підлягає розгляду. На всіх 21 сторінках слова “
Обробка контенту
Хоча в листі жодного разу не згадується штучний інтелект, насправді це найстаріший режим управління ШІ в країні. Усі різноманітні кількісні моделі, що використовуються для оцінки кредитоспроможності, виявлення шахрайства, стрес-моделі тощо, підпали під ці вказівки, і оскільки моделі ставали складнішими, вказівки залишалися.
Швидка перемотка вперед на 15 років. 17 квітня, ФРС, OCC і FDIC
Але потім регулятори додали такий виняток: «Моделі генеративного штучного інтелекту та агенційного штучного інтелекту є новими та швидко розвиваються. Тому вони не входять у сферу дії цього керівництва». Крім того, там зазначено: «порушення не тягне за собою критику з боку нагляду». Чесно кажучи, агентства знають, що їм потрібно мати справу з ШІ, і пообіцяли запросити дані про ШІ в банківській сфері «найближчим часом».
Я розумію аргументацію стратегії, оскільки дуже важко написати посібник навколо цілі, яку ви не можете чітко визначити. Зважаючи на це, я співчуваю і експертам банку, і керівництву банку, яким бракує чітких вказівок щодо цього питання.
Очевидно, банки не можуть чекати цієї директиви. Моделі виявлення шахрайства, системи обслуговування клієнтів, підтримка андеррайтингу та перевірка документів активно використовують інструменти ШІ
Крім того, зосереджені постачальники цих технологій. Три компанії пропонують більшу частину хмарних обчислень, а кілька з них пропонують більшість передових моделей ШІ. Якщо кілька банків використовують по суті ту саму модель з одного з кількох варіантів, і ця модель створює проблеми для одного типу транзакцій, це проблема не лише одного банку. Це призводить до взаємодії всієї банківської системи. У регуляторів є інструмент для такої взаємодії: горизонтальний огляд, але він ніколи не застосовувався до постачальників ШІ.
Поки Конгрес та інші з нас обговорюють, як працювати зі штучним інтелектом, давайте подивимось, як банківські інспектори запускають кількісні моделі з 2011 року. Вони розмірковували над цими питаннями протягом 15 років, тому країні слід покладатися на їхній досвід.
більше:
Тож що нам тепер робити? Це те, що я б зробив, і для цього не знадобився б Конгрес.
По-перше, переконайтеся, що цей запит на інформацію перетворено на контрольний лист щодо використання базових моделей протягом 12 місяців. У ньому має бути зазначено лише те, що банк повинен знати про будь-яку модель, яку він ліцензує, на що має звернути увагу експерт, щоб продемонструвати розумність використання банком цих моделей, і що банк повинен робити, якщо продавець не розкриває інформацію, яку вимагає банк. І в міру того, як технологія розвивається, літера може бути переглянута, як SR 11-7, нарешті, цього року.
По-друге, скористайтеся повноваженнями відповідно до Закону про банківське обслуговування для дослідження моделей, наданих компаніями штучного інтелекту, оскільки цей закон 1962 року дозволяє агентствам розслідувати будь-яку компанію, яка надає послуги банку, включно з основними процесорами. Федерали Річмонда вже використовували його для дослідження об’єкта Amazon у Вірджинії. Компанія, яка надає граничну модель штучного інтелекту для банківського шахрайства, явно надає банківські послуги, і на неї має поширюватися цей акт.
По-третє, проведіть перехресний огляд постачальників ШІ в найбільших банках, а потім опублікуйте ці результати. Назви банків і постачальників не важливі для публічного оприлюднення; це розуміння того, де є ризики в цій системі, ризики, які зростають щодня.
Отже, що таке економія? Деякі можуть заперечити проти застосування закону 1962 року, який був написаний з урахуванням компаній, що займаються обробкою чеків, і поставити під сумнів його застосування до цих технологічних компаній. Хоча це правда, що таке використання акту ніколи не було повністю перевірено в суді, перевірка ФРС Річмонда Amazon доводить, що це доречно. І хоча буде багато скарг на використання нечіткого банківського законодавства для аудиту сучасних технологічних компаній, банківські інспектори, яких я знаю, звикли отримувати скарги. Це не причина не робити цього.
А як щодо того факту, що неможливо пояснити внутрішню роботу цих моделей ШІ? Я вважаю, що якщо OCC вирішить не дозволяти банку розгортати модель, яку неможливо пояснити, постачальники навчаться створювати пояснення. Банки дуже важливі, тому що клієнтів цих компаній ігнорують.
У 21-сторінковому листі, опублікованому 15 років тому, жодного разу не згадувалося про штучний інтелект, але він рухав технологію ще до того, як хтось її так назвав. Новому гіду доведеться швидко рухатися, щоб також керувати ним.
