Майже два десятиліття тому група дослідників з Національної лабораторії Айдахо провела секретний експеримент, відомий як «Випробування генератора Аврора», на гігантському смарагдово-зеленому дизельному генераторі. Використовуючи 30 рядків коду, вони зламали віртуальну кімнату генератора, зламали запобіжні заходи та замінили вимикачі, які зробили його несумісним з рештою електромережі.
Перед аудиторією керівників комунальних підприємств і чиновників Департаменту енергетики, які спостерігали з сусідньої кімнати, 27-тонний генератор різко затрясся і випустив темний дим, оскільки його гумові корпуси швидко розпалися.
«Це означало, що за допомогою лише кількох рядків коду ви можете створити умови, які будуть фізично шкідливими для машин, на які ми покладаємося», — пізніше сказав провідний дослідник Майкл Ассанте журналісту Енді Грінбергу для своєї книги. Піщаний черв’як: Нова ера кібервійни та полювання на небезпечних кремлівських хакерів. «У мене була справжня яма в животі. Це було як спалах майбутнього».
Цього тижня це майбутнє, здається, стало набагато ближчим, коли розробники та провідні керівники штучного інтелекту випадково зізналися, що вважають, що їхнє творіння — це миготливий X-post, який, ймовірно, покінчить з людством, оскільки Нью-Йорк Джетс вийдуть у плей-оф цього сезону. Прямо зараз Який вид ШІ може вбити всіх, що набагато темніше. Але, як Ассанте відчув багато років тому, штучному інтелекту може не знадобитися бути достатньо потужним, щоб вирватися зі своєї віртуальної клітки до критичної інфраструктури, яка живить наші лікарні, змиває наші туалети та закачує воду в наші труби. Він просто повинен потрапити в чужі руки.
Майже будь-який сценарій кінця світу, який ви можете придумати для штучного інтелекту, починається з зграї тіньових ботів у кіберпросторі, які пхають свої носи за завіси електростанцій, тостерів, світлофорів або навіть, у надзвичайних ситуаціях, нашого ядерного арсеналу. Незважаючи на те, що для знищення генератора Аврори для написання коду знадобився принаймні один хакер-людина, штучний інтелект з тих пір повністю подолав бар’єр для входу, щоб сіяти хаос, як продемонстрував інцидент з обіймаючим обличчям на початку цього року.
Але штучному інтелекту не обов’язково бути настільки шахраєм, щоб загрожувати електромережі чи псувати вашу водопровідну воду. Експерти кажуть, що нова ера хакерства базується на штучному інтелекті, але зосереджена на людях. З огляду на те, що деякі з найбільш чутливих інфраструктур країни напрочуд вразливі до атак, можливість апокаліпсису штучного інтелекту насправді може початися із збитої водонапірної вежі чи генератора у вашому дворі. У найгіршому випадку це може призвести до серії катастрофічних збоїв у системах, на які ми покладаємося для комфортного сучасного життя, від роботи нашого кондиціонера в спекотне літо до геолокації наших кораблів і літаків.
«Раніше потрібно було мати високий рівень технічної експертизи», щоб провести певну версію тесту генератора «Аврора», — сказав Альваро Карденас, професор комп’ютерних наук Каліфорнійського університету в Санта-Крус. «А тепер вам просто потрібно мати загальне уявлення про те, що можливо».
ШІ значно погіршує стару загрозу
Невдовзі після того, як Національна лабораторія Айдахо підірвала цей жалюгідний генератор, федеральний уряд наказав електричній компанії провести серйозний аудит кібербезпеки.
Однак значна частина критичної інфраструктури Америки, як-от газопроводи, водоочисні споруди чи вантажні термінали, явно не готова до звичайних кібератак, а тим більше до майбутніх атак ШІ.
Частково це пояснюється тим, що кібератаки, подібні до тієї, що змодельована в тесті генератора Aurora, протягом тривалого часу були надзвичайно рідкісними і в основному невідомими для більшості злочинних хакерів, оскільки вони оптимізовані для зриву, а не для отримання фінансової вигоди. Але в процесі значного полегшення шифрування для всіх, AI також зробив так легко для майже будь-кого зламати ваш онлайн-банківський рахунок або, теоретично, ваш місцевий резервуар чи електромережу. Агенти штучного інтелекту також можуть значно розширити коло легких цілей, тому що, як каже Енді Бохман, експерт зі сталого розвитку інфраструктури West Yost, «вони не сплять, не втомлюються і не хворіють».
У минулому навіть ті, хто хотів здійснити широкомасштабні атаки на інфраструктуру, могли бути недостатньо поінформованими для цього. І хоча інші країни, такі як Китай, Іран і Росія, справді вже скомпрометували багато наших інфраструктурних систем (як і ми), вони жодного разу не спричинили значних внутрішніх конфліктів.
«Геополітика позбавляє думки, що ті, хто має здібності, не мають намірів, а ШІ забирає іншу частину цього, що ті, хто мають намір, не мають здібностей».
– Джейсон Хілі, дослідник кібербезпеки в Колумбійському університеті
Але ця норма зараз змінюється, сказав Джейсон Хілі, дослідник кібербезпеки з Колумбійського університету. «Геополітика позбавляє думки, що ті, хто має здібності, не мають намірів, а штучний інтелект забирає іншу частину цього, що ті, хто мають намір, не мають здібностей», — сказав він. Тож, з одного боку, така держава, як Росія, може бути більш схильною фактично порушити нашу енергосистему, ніж вона є. І, з іншого боку, нігіліст-одинак або терористична група може використовувати ШІ, щоб завдати більшої шкоди, ніж будь-коли раніше.
Буквально минулого місяця ми побачили, як це може виглядати, коли десятки систем водопостачання та каналізації в невеликих містах по всій країні були атаковані групою хакерів, які, як вважають, пов’язані з Іраном, спричинили тимчасові перебої з водопостачанням і повені. Ці атаки не суворо пов’язані зі штучним інтелектом, але Агентство національної безпеки незабаром попередило, що хакери активно використовують штучний інтелект для націлювання на інфраструктуру США, як ця. Кілька тижнів потому президент Дональд Трамп оголосив надзвичайний стан через іноземне вторгнення в електромережі, посилаючись на зростаючу загрозу кібербезпеці.
Більшість національних систем водопостачання надзвичайно локалізовані та вразливі до таких атак, тому «це майже як мати вітальний килимок» для потенційного хакера, сказав Бохман, головним чином через те, що ці комунальні послуги настільки малі та недофінансовані, щоб запобігти їм. «У вас є мільйон інших проблем, про які потрібно подбати, наприклад, застаріла інфраструктура — ваші речі розвалюються, тому що вони пролежали в землі 100 років», — сказав він. Вирішити проблему відкладеного технічного обслуговування часто набагато важливіше, ніж зробити «щось більше про кібербезпеку».
Незалежно від того, чи це зловмисне скупчення агентів, чи ворожа держава, яка хоче пограти з нашою електроенергією, нам потрібно підготувати нашу найважливішу інфраструктуру до гіршого. Для Бохмана це може означати відмову від поштовху до оцифровування всього й повернення до чогось більш схожого на дні, коли «люди керували підстанціями, спілкувалися через стаціонарні телефони та зчитували прилади, аналогові речі», — сказав він. «Екран — це те, що можна нескінченно контролювати».
Хілі, який консультував адміністрацію Байдена з питань кібербезпеки та інфраструктури, вважає, що країні потрібна скоординована відповідь між федеральним урядом і компаніями ШІ, а також між США та іншими країнами, як-от Китай, де розробляються такі ж потужні моделі. А комунальним підприємствам потрібно думати, що вони стануть цілями, і відповідно покращувати свою практику кібербезпеки, каже Хілі, в ідеалі за рахунок фінансування від федерального уряду або, можливо, більш доцільно, компаній ШІ.
Ніхто точно не знає, наскільки американська інфраструктура вразлива до штучного інтелекту, частково через те, що політики — і, можливо, більш тривожно, самі творці штучного інтелекту — здається, жахливо не знають, як зупинити технологію від поганих вчинків (або виконання поганих наказів). Наразі, принаймні, рішенням може бути, як пропонує Бохман, перевести в автономний режим якомога більше наших критично важливих систем, бажано щоб приховати це від штучного інтелекту та тих, хто зловживатиме ним.
«Коли трапляються погані речі, ніхто не знає, що робити і чому, тому що це чорні ящики; люди, які їх створюють, не знають, що відбувається всередині», — сказав Бохман. «І бідні працівники комунальних служб, які в кінцевому підсумку ризикують, коли хтось постраждає від системи», також не розуміють, що пішло не так, «і бажають Богу, щоб вони ніколи не взяли це на борт».
