досягнення: Попередження розробників штучного інтелекту викликали широкі дискусії щодо того, чи може ця технологія призвести до вимирання людей. Хоча більша частина цієї дискусії була зосереджена на випадках шахрайства зі штучним інтелектом, події на Близькому Сході показують, що військові операції, керовані галюцинаціями інструментів ШІ, можуть становити безпосередню загрозу.
Американські військові джерела нещодавно повідомили CNN, що США перехопили китайський корабель на Близькому Сході цієї весни на основі неправдивої інформації зі звіту штучного інтелекту. Звіт був заснований на помилковій відповіді чат-бота, який ідентифікував корабель як матеріал для програми створення ядерної зброї.
Два джерела повідомили, що озброєний військовий персонал готувався піднятися на борт корабля після того, як військові літаки вже були в повітрі, перш ніж офіційні особи ретельно вивчили звіт і виявили, що він був принаймні частково створений ШІ.
Одне джерело назвало цю інформацію абсолютно неправдивою та заявило, що це мало не почне війну між двома ядерними державами. Що насправді було на борту, поки невідомо.
Аналітик звернувся до анонімного чат-бота з проханням оцінити розвідувальні дані щодо корабельного маніфесту, які надходять від командування тихоокеанських спеціальних операцій. Поки неясно, чи був чат-бот комерційним чи державним.
Офіційний представник, знайомий із розгортанням розвідки американських військових, сказав CNN, що урядовий чат-бот, ймовірно, був створений або клонований з комерційного продукту та вдосконалений за допомогою даних урядової розвідки. У будь-якому випадку, аналітик також використовував штучний інтелект для написання звіту розвідки на основі неправильної відповіді – те, що приводить військових у стан підвищеної готовності.
Справа показує, що американські військові повинні прискорити впровадження ШІ під час війни з Іраном. У січні міністр оборони Піт Хегсет оголосив про плани посилити штучний інтелект і усунути бюрократичні перешкоди, попередивши, що відставання в технології може передати ініціативу Китаю та іншим ворогам США. Тим часом, як повідомляється, аналітики стикаються зі зростаючим тиском, щоб опублікувати звіти з використанням ШІ.
Військові в основному використовували штучний інтелект для аналізу розвідувальних даних, матеріально-технічного забезпечення та визначення цілей. Наприклад, Клод Антропік брав участь у перших ударах США під час війни в Ірані, включно з нападом, у результаті якого було вбито верховного лідера Ірану аятоллу Алі Хаменеї. Але штучне націлювання на основі застарілої інформації також могло сприяти удару по школі в Мінабі, внаслідок якого загинуло 168 людей, переважно дітей, – напад, який багато хто звинувачує в США, і який експерти за підтримки ООН описали як можливий військовий злочин.
Представники США повідомили CNN, що інцидент з китайським підводним човном — не єдиний випадок, коли військові піддалися галюцинаціям ШІ.
