США та Китай запропонували створити гарячу лінію для повідомлення про інциденти ШІ, щоб уникнути ризику виходу моделі штучного інтелекту з-під контролю та уникнути неправильного тлумачення атак, які можуть призвести до швидкого зростання автономності. Reuters повідомляє. Ця новина опублікована напередодні запланованого візиту прем’єр-міністра Китаю Сі Цзіньпіна до Вашингтона 24 вересня. Міністр фінансів США Скотт Бессент також підтвердив, що подальші переговори щодо безпеки штучного інтелекту між двома країнами заплановані на два місяці.
Усе це відбувається на тлі поточних переговорів США про торгівлю та відносини з Китаєм, на додаток до різних прикордонних агентів ШІ, які, здається, виходять із самообслуговуваних та хакерських організацій без людського контролю.
У той час як дехто б’є тривогу щодо гуманітарного ризику, створеного моделями штучного інтелекту, США та Китай вживають заходів, щоб гарантувати, що якщо будь-яка сторона створить небезпечний інцидент штучного інтелекту, існуватиме можливість для спільної реакції обох країн до того, як станеться будь-яка потенційна загроза чи спалах.
Нові відео відОбладнання Тома
Оскільки штучний інтелект продовжує поширюватися в заголовках газет про безпеку, США та Китай зараз створюють глобальні гарантії через спеціальну гарячу лінію для обговорення будь-яких питань, пов’язаних зі ШІ, які можуть перерости в загрози національній безпеці.
Тримайте людей в курсі подій
Після обговорень між Скоттом Бессентом і віце-прем’єром Китаю Хе Ліфном у Нью-Йорку обидві сторони запропонували президенту Трампу та Сі Цзіньпіну обговорити різні механізми безпеки ШІ, включаючи систему попередження, спрямовану на національну безпеку. Це може надавати сповіщення про виявлені шахрайські суб’єкти штучного інтелекту, які працюють у будь-якій точці світу, а також сповіщати іншого партнера, якщо автономна система виконує дії, які можуть бути помилково витлумачені як атака.
Сценарій, якого хочуть уникнути обидві сторони, полягає в тому, що автономна система штучної зброї — кінетичної чи асиметричної за своєю природою, як-от можливості кібератак на основі ШІ — реагує на провокації без контролю людини. Потім це може викликати надмірну реакцію в іншій системі штучного інтелекту, що призведе до швидкої ескалації конфлікту з такою швидкістю, що люди не зможуть втрутитися.
Запропонована система також може допомогти обом сторонам розробити спільну відповідь на позитивні цілі, а також на потенційні загрози. Це може стати основою для спільного прискорення розробки, враховуючи нещодавні заклики американських компаній штучного інтелекту уповільнити розвиток штучного інтелекту для покращення координації та захисту. Китай менш зацікавлений, припускаючи, що такий крок може бути використаний для перешкоджання китайському розвитку ШІ.
Наразі незрозуміло, наскільки Китай хоче впровадити запропоновану систему попередження, але аналітики та експерти з обох сторін закликають до розробки такої системи. І США, і Китай погодилися продовжити питання щодо безпеки штучного інтелекту в найближчі місяці.
Налаштування фону
Ми все ще перебуваємо на початку цих дискусій, є лише голі кістки пропозиції гарячої лінії, і є багато чого для обговорення щодо координації між двома провідними країнами, що розробляють ШІ. Наступним кроком стануть переговори між двома лідерами, де обговорюватиметься не тільки ШІ.
Якщо відносини між США та Китаєм зможуть вийти за межі нинішнього суперництва, є потенціал для більш міцних домовленостей щодо особливостей інтеграції ШІ в національну безпеку та військові операції. Хоча деякі аналітики скептично ставляться до остаточних угод через обмежену довіру між двома сторонами, є певна надія, що домовленості будуть досягнуті щодо прямої зброї штучного інтелекту, основних принципів захисту штучного інтелекту та запобігання його націленню або пошкодженню критичної інфраструктури.
Надія на вдалу зустріч дуже взаємна. Провідний демократ у Палаті представників США Ро Ханна заявив, що перше, що президент Трамп і Сі Цзіньпін повинні зробити на зустрічі, це розробити основні принципи ШІ. Зокрема, щодо заборони рекурсивного самовдосконалення ШІ та усунення можливості використання таких автономних систем у технологіях біологічної та ядерної зброї.
Саміт між президентом Трампом і Сі Цзіньпіном у Вашингтоні має розпочатися всього за кілька днів і обговорюватиме набагато більше, ніж штучний інтелект, оскільки решта світу чекає, затамувавши подих, оскільки зустріч між двома лідерами може створити основу для нового раунду обговорень економічних відносин між двома країнами.
