Більшу частину мого життя національна безпека означала управління загрозами, які ми могли бачити та вимірювати. Ми відстежували ядерний арсенал противника, створювали командні системи та використовували дипломатію, військову готовність і стримування, щоб запобігти кризі. Ядерні гарантії не усунули небезпеку, але лідери зрозуміли, що контроль над катастрофічною технологією не може бути запізнілою думкою.
ШІ перевіряє, чи ми все ще пам’ятаємо цей урок. Це змінить спосіб збору розвідданих, реагування на кіберзагрози та планування військових операцій. ШІ вже є частиною нашої національної оборони. Питання в тому, хто це контролює.
Більшу частину своєї військової кар’єри я провів у підрозділах легкої піхоти та спеціальних сил армії США. Військові залежать від чіткого підпорядкування. Хтось має відповідати за остаточне рішення, особливо коли алгоритм може діяти швидше, ніж будь-який оператор-людина.
Коли йдеться про використання ядерної зброї, люди несуть відповідальність за рішення. Ці запобіжні заходи існують, тому що помилку, пов’язану з ядерною зброєю, неможливо виправити згодом.
ШІ ставить схоже запитання: що, якщо ми втратимо контроль?
Питання дійшло до Капітолійського пагорба. Закон про захист штучного інтелекту накладає юридичні обмеження на використання Пентагоном штучного інтелекту, включаючи рішення, пов’язані з ядерною зброєю та летальною силою. Сенатор Ангус Кінг (МЕ), член Комітету зі збройних сил, стверджував, що Америка повинна «обережно, обережно та обережно» рухатися до майбутнього штучного інтелекту.
Попередження було передбачено в п’ятницю. CNN повідомило, що штучно згенерований звіт розвідки помилково ідентифікував китайське вантажне судно на Близькому Сході як таке, що перевозило компоненти ядерної зброї. Військові літаки були готові до посадки, і військові літаки були в повітрі, коли представники розвідки придивилися ближче та виявили, що звіт штучного інтелекту був неправильним. Джерело CNN повідомило, що цей інцидент “майже почав війну”.
Це тип помилки, який мене турбує. У цьому випадку люди це отримали. Що відбувається, коли ми цього не робимо? Ми не чекали, поки ракети будуть у повітрі, щоб побудувати протиракетну оборону. Ми готові, тому що наслідки помилок дуже великі.
Якщо ми використовуємо штучний інтелект у системах раннього попередження або військових, лідери матимуть менше часу, щоб з’ясувати, чи правильна інформація, яку вони передбачають.
Ядерна зброя та штучний інтелект відрізняються ще одним важливим моментом. Уряди створили атомну бомбу та жорстко контролювали ядерні матеріали, необхідні для її створення. Більшість сучасного передового штучного інтелекту виробляється приватними компаніями. Ми хочемо, щоб американські інженери керували, але корпоративне лідерство не слід плутати з демократичною відповідальністю.
Кремнієва долина давно славить швидкий рух і ламання речей. Інакше, коли на кону життя. Ні технічні директори, ні інженери програмного забезпечення не повинні диктувати структури військового командування чи правила автономної летальної сили.
Критики стверджують, що правові обмеження призведуть до того, що Сполучені Штати відстануть від конкурентів, таких як Китай, і що існуюча політика Пентагону є достатньою. Внутрішні військові правила самі по собі не можуть відповісти, скільки потужності ми готові надати машинам. Деякі рішення ніколи не слід кодувати. Конгрес повинен ввести ці обмеження в закон. ШІ не повинен приймати рішення щодо ядерної зброї чи інших стратегічних систем без нагляду людини.
США повинні поговорити з іншими великими державами про те, де знаходяться ці кордони. Нам не потрібно починати з універсального договору. Почніть із рішень, які надто небезпечні, щоб їх поставити в автомобіль: запустити ядерну зброю, контролювати системи стратегічного захисту або автоматично реагувати на раннє попередження.
Історія дає нам приклад. У вересні 1983 року радянська система раннього попередження помилково повідомила про прибуття американських ядерних ракет. Радянський офіцер Станіслав Петров дійшов висновку, що попередження було не атакою, а помилкою системи. Його судження було важливим. Якщо автоматизована система спрацює на це попередження без втручання, наслідки можуть бути катастрофічними.
Понад чотири десятиліття відділяють Петрова від того, що минулого тижня повідомило CNN. Технологія змінилася. Тривога залишається. Машини можуть обробляти інформацію та ідентифікувати шаблони, які ми пропускаємо, але вони можуть помилятися. Мене непокоїть не те, що колись машина стане розумнішою за нас. Йдеться про те, чи почнемо ми довіряти машинам приймати рішення лише тому, що вони швидкі.
АІ МАЙЖЕ НЕ ВОЮВАВ З КИТАЄМ. ВАШИНГТОН У ЦЕ ВІРИВ
Під час військової служби питання про те, хто має право відправляти американців на війну, ніколи не було абстрактним. Відповідальність за прийняття рішення про те, коли американцям варто йти на війну, лежить на наших обраних лідерах.
Штучний інтелект змінює це питання, але не змінює, хто має бути головним. Оскільки штучний інтелект прискорює прийняття рішень у військових операціях, ми повинні вирішити, де зупиняється машина і починається людська власність. Оскільки ставки такі високі, ми не можемо чекати кризи, щоб провести цю лінію.
Скотт В. Паттон — ветеран війни та член сім’ї Gold Star, де представлені його роботи США сьогоднідо Chicago Tribune, HuffPostв Звичайний дилердо Вашингтонський іспит, та інші національні видання.
