Коли апокаліпсис штучного інтелекту стає звичайною розмовою за обіднім столом, ви знаєте, що ми досягли етапу, гідного жаху. Шахрайські агенти ШІ зламують опонентів. Колишні співробітники Big Tech публікують попередження у стилі Skynet у соціальних мережах. Керівники компаній благають про допомогу таким чином, що перетворили цю колись незручну технологічну проблему на старомодну політичну битву.
Я все ще вважаю, що багато занепокоєнь, висловлених самими лідерами штучного інтелекту, здебільшого корисливі, особливо коли їхні компанії збираються вийти на біржу. Але зростаючий список скандалів зі штучним інтелектом реальний. І це говорить нам, що статус-кво не працює для регулювання цієї потужної нової технології.
Питання, яке зараз хвилює кожного: чи можливе якесь глобальне гальмування? Яка форма режиму безпеки ШІ практична в короткостроковій перспективі, коли немає довіри між великими урядами? І що можуть зробити компанії, коли вони не бажають відмовитися від свого секретного соусу і прагнуть домінувати в глобальній гонці ШІ?
Дві основні бесіди тепер ведуться в режимі реального часу. У середу президент Дональд Трамп привітав президента Китаю Сі Цзіньпіна у Вашингтоні на триденний саміт, частина якого буде присвячена небезпеці ШІ. Того ж дня, на щорічній асамблеї ООН, лідери провідних світових компаній ШІ закликали ООН контролювати нові технології, інакше це загрожує зникненню людства. «Ми можемо втратити контроль над майбутнім через штучний інтелект», — сказав генеральний директор OpenAI Сем Альтман Раді безпеки ООН.
Зіткнувшись із цим колективним обуренням, настав час зробити довгий, глибокий вдих.
Насправді безпека штучного інтелекту роками була на думці багатьох політиків і набрала обертів після впровадження ChatGPT у 2022 році. Уряди провели слухання, скликали групи експертів і склали плани щодо того, як це контролювати. Це були не просто вправи на аудіювання. Не всі вони відомі широкому загалу, але дали реальні плани.
Враховуючи будь-які події цього тижня, ми вже маємо квазіпланетарний щит від потенційно обхідних технологій. Це гарна новина.
Погана новина полягає в тому, що це насправді не спрацювало. Також незрозуміло, чи це дійсно спрацює. Отже, що це таке — і як ми можемо це виправити, щоб мати глобальну систему, яка може вчасно реагувати на неймовірно швидкі загрози ШІ?
Що таке глобальний патчер AI зараз?
Протягом останніх чотирьох років найбільш технологічно підковані країни — і, можливо, лідери в області ШІ — серйозно обговорювали цю загрозу безпеці ШІ. Деякі з них у Конгресі та Білому домі; деякі в ООН, G7 та в інших столицях.
Я детально висвітлював це як глобальний технічний журналіст зі своєї нинішньої посади в мозковому центрі. Ось як виглядає сцена:
- Існують національні інститути безпеки та безпеки штучного інтелекту, фінансовані державою органи, чия робота полягає в тому, щоб випробувати найновіші продукти компаній штучного інтелекту, перш ніж вони будуть випущені в дику природу.
- Компанії також мають власні добровільні зобов’язання, багато з яких дали обіцянки або розробили спільні стандарти для захисту виборів від загроз штучного інтелекту, запобігання поширенню підроблених зображень штучної глибини та спільних урядових і корпоративних зусиль для забезпечення безпеки в розробці технологій.
- На міжнародному рівні існує механізм звітності G7, який охоплює найважливіші західні технологічні країни, що дозволяє гігантам штучного інтелекту ділитися тим, як вони створюють свої останні моделі, а також створювати стандарти для зменшення катастрофічних ризиків.
- Щорічно публікується міжнародний науковий звіт про ризики, пов’язані з передовими системами штучного інтелекту, на основі наявних досліджень, щоб допомогти урядам планувати найгірше.
Чого всього цього не вистачає? Те, чого нам зараз не вистачає — і що потрібно від сьогодні до кінця 2026 року — це спосіб перетворити цю домашню індустрію механізмів безпеки штучного інтелекту в активну, але грубу систему першого реагування, коли стається несподіване.
Протягом останніх чотирьох років було визначено шлях, і деякі з необхідних систем навіть існують. Але немає способу реагувати глобально та в режимі реального часу, коли вибухає криза штучного інтелекту — особливо якщо така потенційна подія кінця світу стосується країн, які вже підозрюють одна одну.
Цьоготижнева зустріч між США та Китаєм може стати кроком у правильному напрямку. Згідно з пропозиціями офіційних осіб США, Вашингтон і Пекін могли б створити гарячу лінію між міністром фінансів США Скоттом Бессентом і віце-прем’єром Китаю Хе Ліфеном для вирішення проблем, пов’язаних зі штучним інтелектом, які впливають на національну безпеку кожної країни.
Поки незрозуміло, чи призведе зустріч Трампа з Сі до такого прогресу. Китайські офіційні особи також чинили опір вимогам Вашингтона ввести правила штучного інтелекту, оскільки Конгрес досі нічого не зробив, а Китай вже має один із найсуворіших у світі заходів щодо контролю ШІ.
Щоб штучний інтелект був «безпечним», розмова має вийти за межі американо-китайського саміту цього тижня. Покладання виключно на Вашингтон і Пекін — мабуть, найважливіші сили штучного інтелекту — не вирішує проблеми, що лежить в основі, і не змушує інші країни почуватися комфортно.
Отже, те, що нам потрібно в майбутньому, – це те, що справді нас рятує
Я спілкувався з експертами з безпеки штучного інтелекту та урядовцями, і стало зрозуміло, що не вистачає способу активувати цю систему під час кризи. Країни не повинні мати однакові політики безпеки ШІ, і вони ніколи не будуть. Але, подібно до ядерної зброї — такої ж високозагрозливої технології, яку світ знайшов спосіб стримати, — безпека — це груба глобальна угода про те, як швидко реагувати, коли щось йде жахливо не так.
Зараз потрібен 90-денний механізм швидкого реагування, який зв’язує воєдино існуючі шматки головоломки безпеки ШІ. Я зібрав кілька ідей щодо того, як це має працювати та кого слід залучити. Це правда, що нічого з того, що я перерахував нижче, недостатньо. Але разом вони неохоче намагаються домовитися про всеохоплюючий глобальний режим — не кажучи вже про організацію чергового саміту ШІ — тоді як Вашингтон, Пекін та інші національні столиці не погоджуються щодо того, що означає «безпека ШІ».
Усі ці варіанти базуються на існуючих механізмах, отриманих від зусиль, які спрацювали в інших сферах політики, і допоможуть заблокувати виклик безпеці штучного інтелекту, доки не буде досягнуто більш стійке рішення.
- По-перше, розробники, інститути безпеки штучного інтелекту та регулюючі органи з усього світу повинні домовитися про те, що запускатиме протокол, присвячений Чорнобилю, коли станеться інцидент. Це означає подання конфіденційного звіту протягом 72 годин призначеному національному реагувальнику та технічному підсекретаріату. Він може покладатися на моніторинг ОЕСР інцидентів зі штучним інтелектом, привести до технічного та багатогранного таємного розслідування помилок, а потім опублікувати анонімну записку про отримані уроки.
- По-друге, уряди та розробники можуть видавати загальні декларації щодо гарантій, залишкових ризиків, лімітів зростання та незалежного аудиту перед випуском або оновленням моделі наступного покоління. Він використовує структуру звітності G7 Hiroshima AI Process як свою основу та перетворює поточний урожай корпоративних декларацій безпеки та добровільних стандартів у мінімальні загальні зобов’язання щодо розкриття інформації. Порівняйте це з колективними банківськими стрес-тестами після світової фінансової кризи 2008 року. Це може дозволити стороннім особам фактично порівнювати протоколи безпеки моделей, не доручаючи нікому визначати, яка компанія виконує роботу краще.
- По-третє, створіть американо-китайську «гарячу лінію безпеки штучного інтелекту» у стилі «холодної війни», але розглядайте це як перший крок, який пізніше можна буде відкрити для інших країн. У майбутньому є вагомі причини, чому Вашингтону та Пекіну не можна дозволяти керувати між собою штучним інтелектом, а решта світу повинна мати реальне місце за столом переговорів. Але зараз ці дві «наддержави» перебувають у технічній розмові, і ми можемо залишити в стороні цей філософський аргумент для створення прямої, технічно обґрунтованої лінії зв’язку для екстремальних подій ШІ. Його повноваження мають вузький характер: уникати небезпечних непорозумінь, пов’язаних із серйозними інцидентами шаблонів, кібератаками за допомогою ШІ та/або потенційними порушеннями узгоджених зобов’язань щодо безпеки.
Існують чіткі обмеження щодо того, що я описав вище. По-перше, це західноцентрична точка зору, яка в основному ігнорує більшість країн світу. Це також має значні наслідки для існуючих інституцій, таких як Організація економічного співробітництва та розвитку, а також для американо-китайських відносин. Офіційні особи в інших країнах юридично відмовляються від усіх трьох варіантів, і це правильно.
Але мова не йде про створення нечіткого та невиконуваного мандату ООН щодо безпеки ШІ. Не йдеться також про об’єднання геополітичних котів для укладання глобальної угоди щодо ШІ. Опції – протокол колективної безпеки та протокол звітності про інциденти; загальні передпублікаційні стандарти; а гарячі лінії безпеки штучного інтелекту в США та Китаї — мають короткостроковий характер. Вони також спираються на існуючі зусилля та ті, які успішно спрацювали в інших сферах політики.
Буде час для обговорення майбутнього безпеки ШІ. Але зараз не час. Останні моделі штучного інтелекту розвиваються швидше, ніж багато хто очікує, технічні лідери хвилюються, що їхні творіння вже вийшли з-під контролю, а вікно для дій може бути меншим, ніж ми думаємо.
Потрібні практичні кроки для вирішення зростаючої громадської стурбованості на тлі геополітичної напруженості, відсутності довіри між урядами та компаніями та необхідності не дозволяти досконалості стати на шляху добра.
