Платіжним компаніям потрібен спосіб відстежувати, де використовується штучний інтелект і хто за це відповідає, а також як ці системи управляються з часом.
ISO/IEC 42001 створює основу для управління тими системами, включаючи ШІ, які компанія купує, а не будує.
Опублікований у грудні 2023 року стандарт встановлює вимоги до системи управління ШІ, або AIMS. Він застосовується до організацій, які розробляють, надають або використовують продукти та послуги штучного інтелекту, і включає створення, впровадження, підтримку та постійне вдосконалення системи управління.
Основна увага приділяється тому, як організація керує ШІ протягом усього життєвого циклу. На високому рівні стандарт стосується підзвітності, оцінки ризиків, моніторингу та інших процесів управління, а не встановлює технічні вимоги до продуктивності для індивідуального шахрайства, автентифікації або андеррайтингу.
Для платіжних компаній впровадження ISO 42001 може початися з пошуку ШІ, який уже працює в бізнесі.
«Найбільша зміна полягає в тому, що вона змушує компанії більш уважно дивитися на те, де насправді використовується ШІ», — сказав PYMNTS Крістіан Джейкоб, фахівець з фінансових злочинів і управління ШІ з досвідом платежів.
Він включає компоненти машинного навчання в рамках виявлення шахрайства, моніторингу транзакцій, завантаження, автентифікації та інших робочих процесів прийняття рішень, сказав Джейкобс. Огляд може виявити системи, які раніше вважалися тільки робочою технікою.
Джейкоб, який працює на Deel, сказав PYMNTS, що його коментарі зроблені в особистій якості.
Ідентифікація цих систем є проблемою. Відповідальність після розгортання інша.
Девід Кеммерер, співзасновник і генеральний директор CoinLedger, окремо сказав PYMNTS, що платіжні компанії, можливо, вже мають процеси безпеки, шахрайства, конфіденційності, моделювання ризиків і відповідності. Проблема може виникнути після запуску системи штучного інтелекту.
«Проблема полягає в тому, що власник системи AI розгортає або керує змінами в моделі», — сказав Кеммерер. «ISO 42001 забезпечує покриття для створення, впровадження, підтримки та вдосконалення».
Потреба в постійному моніторингу важлива, оскільки системи ШІ можуть змінювати свою ефективність у міру зміни даних, поведінки та умов роботи. Таким чином, управління системою продовжується після її первинного затвердження.
Коли ШІ торкається транзакції
Рустам Багаутдінов, директор з процесингу компанії “Payzon”, вказав на платіжний маршрут, де проблема доходить до обробки транзакції.
ШІ можна використовувати для вибору маршруту придбання за допомогою таких змінних, як очікуваний рівень схвалення та вартість. Тому зміни в поведінці моделі можуть змінити розташування трансмісії.
«Якщо штучний інтелект раптом пропускає серію транскордонних транзакцій таким чином, що викликає величезне помилкове скорочення, ISO 42001 гарантує відстежувану та задокументовану логіку, щоб зрозуміти, чому модель зробила такий вибір, а не просто звинувачувати алгоритм», — сказав Багаутдінов.
Приклад ілюструє оперативну мету управління без перетворення сертифікації на гарантію ефективності. ISO 42001 не визначає, чи правильне рішення щодо маршрутизації. Це вимагає процесів управління навколо систем штучного інтелекту в межах певної організації.
Стандарт доступний за межами компанії
Платіжні компанії також залежать від технологій, яких у них немає.
Виявлення шахрайства, перевірка, завантаження та автентифікація можуть надаватися третіми сторонами. Сам процесор може залежати від інших постачальників технологій для надання послуг банкам і продавцям.
Для ISO 42001 важлива сфера сертифікації.
«Заява про обсяг — це читабельний документ, а не сертифікат», — сказав Джейкоб.
Ми хочемо бути вашим улюбленим джерелом новин.
Будь ласка, додайте нас до свого списку бажаних джерел, щоб наші новини, інформація та інтерв’ю з’являлися у вашій стрічці. спасибі!
Постачальник може бути сертифікованим, тоді як конкретна конфігурація, інтеграція чи налаштування клієнта виходить за межі аудиту, сказав Джейкобс. Сертифікація повинна посилювати, а не замінювати належну перевірку третьої сторони.
Для банку або процесора, який купує послугу з підтримкою штучного інтелекту, питання може виходити за рамки того, чи є у постачальника сертифікат, які системи тестуються, що контролює постачальник і яка відповідальність залишається за клієнтом.
Платежі та банки починають сертифікувати
Є приклади прямих платежів.
Фінансове програмне забезпечення та системи (FSS) повідомили в січневій публікації в блозі, що отримали сертифікат ISO/IEC 42001. Штучний інтелект вбудований у виявлення шахрайства, моніторинг транзакцій, узгодження, управління суперечками та автоматизацію операцій на своїх платформах.
У FSS заявили, що сертифікація включає структурні засоби контролю протягом усього життєвого циклу ШІ, включаючи системи моніторингу після розгортання.
У банківській сфері інша ситуація. BSI повідомив у прес-релізі в лютому, що він сертифікував Axis Bank за стандартом ISO/IEC 42001 після аудиту практики управління AI, управління ризиками та виконання проектів банку.
Система керування сертифікацією все ще може містити модель ШІ, яка працює погано.
«Сертифікація стосується системи управління ШІ, а не продуктивності окремої моделі», — сказав Джейкоб.
За словами Джейкобса, сертифікована платіжна компанія все ще може мати модель шахрайства, яка пропускає новий шаблон атаки, або систему автентифікації, яка дає суперечливі результати. Сертифікація визначає, що система управління штучним інтелектом організації відповідає вимогам стандарту в рамках її аудиту.
Обмеження зважуються, якщо ISO 42001 стає частиною вибору постачальника. Сертифікат може свідчити керівництву, не відповідаючи на ефективність продукту, що купується.
«Сертифікація повинна доповнювати належну обачність третьої сторони, а не замінювати її», — сказав Джейкобс.
Джейкоб сказав, що він очікує, що стандарт стане більш важливим як орієнтир управління та закупівель, особливо для компаній, які продають послуги ШІ регульованим фінансовим установам. Компанії можуть запитати у постачальників, які системи штучного інтелекту входять до їхньої системи управління, що включає їхня сертифікація та як розглядаються зовнішні залежності штучного інтелекту. Якщо ці питання стануть нормою в оглядах технологій, ISO 42001 може закріпитися в системі платежів шляхом придбання, а не регулювання.
Щоб отримати все покриття PYMNTS AI, підпишіться на Daily Вісник АІ.
