Мисливці за привидами це фільм про дружбу, слиз і специфічну температуру плавлення гігантських зефірів, завдяки чому легко забути, що це також фільм про регулювання. Катастрофа в її центрі починається, коли Уолтер Пек (Вільям Атертон), бюрократ з Агентства з охорони навколишнього середовища, відвідує підвал штаб-квартири Мисливців за привидами та знаходить машину, яку він не розуміє. Невідомий вчений Егон Шпенглер (Гарольд Раміс) пояснює, що це система зберігання; його закриття було б «як скинути бомбу на місто». Пек не вірить у привидів, і він точно не вірить у привидів, тому він наказує електрику вимкнути машину. Хлопець ConEd, відчувши небезпеку, яку він не зовсім розуміє, вагається. Пек каже йому, що його не цікавить його думка. Перемикач намальований. Привиди тікають.
Жарт Рональда Рейгана в 1984 році полягав у тому, що державне регулювання настільки дурне, що воно створює катастрофу, заради якої їй запобігти. Свідченням успіху Рейгана є те, що зараз, в епоху ШІ, жарт досяг повного кола. Уряд все ще намагається покінчити з системою призупинення – тільки тепер вони називають цю спробу “недійсною”.
У перший день свого другого терміну Дональд Трамп скасував указ Джо Байдена щодо штучного інтелекту, який вимагав від розробників деяких передових систем штучного інтелекту ділитися результатами перевірок безпеки з урядом перед оприлюдненням своїх моделей для громадськості. Лише минулий місяць надав чимало доказів непослідовності — це нестрогий термін у галузі, коли штучний інтелект порушує вказівки своїх програмістів.
Під час липневого зламу технічної компанії Hugging Face недолік дозволив групі агентів OpenAI захопити доступ адміністратора до серверів Hugging Face, викрасти особисті дані та зібрати особисту інформацію співробітників — злочин — а потім приховати докази від своїх наглядачів. Google оголосив у п’ятницю, що його модель штучного інтелекту отримала несанкціонований доступ до трьох зовнішніх систем, вгадавши облікові дані для входу або здійснивши пошук справжніх паролів у публічному сховищі. Тим часом CNN повідомило, що звичайна галюцинація штучного інтелекту ледь не змусила американські сили перехопити китайське судно та піднятися на нього, перш ніж офіційні особи виявили, що звіт був помилковим.
Швидкість, з якою штучний інтелект вирвався з-під ефективного контролю, є однією з причин, чому співробітники відомих компаній ШІ звільняються на знак протесту. Ось чому Сем Альтман, Даріо Амодей та Ілон Маск разом закликали сповільнити або «пришвидшити» розробку передових моделей. Буквально тиждень тому Трамп пішов у протилежному напрямку, назвавши ідею про те, що ШІ може загрожувати цивілізації, «обманом», а спробу створити притулки — «ХВОРОЮ змовою». Але в суботу, можливо, усвідомлюючи масове ігнорування цієї позиції за шість тижнів до проміжних іспитів, він змінив свій ентузіазм, щоб оголосити про створення сил штучного інтелекту, якими керуватиме цар штучного інтелекту, який «цінуватиме» індустрію штучного інтелекту, водночас «шукаючи ПОГАНО».
Це буде другий AI король. По-перше, Девід Сакс, плідний інвестор ШІ, активіст і подкастер, стверджував, що лідери, які зараз закликають до стриманості, є егоїстичними та нещирими. Я говорив з деякими з цих лідерів минулого тижня; вони звучали дуже щиро — і щиро сердилися на Сакса. Звичайно, багато тих самих людей підбадьорювали Сакса, коли його версія «Drill, Baby, Drill» підвищувала їхні рейтинги.
Кілька років я намагався вірити тому, у що вірять генеральні директори AI і Трамп і люди навколо нього, на відміну від того, що їм вигідно. Колись я можу повернутися до цього проекту, якщо в мене не буде інших способів завдати шкоди. Для теперішніх цілей їхня щирість не має значення. Актуальне питання: що ми можемо зробити з привидами?
Ніхто — ні Альтман, ні Трамп, ні майбутній король штучного інтелекту — не знає, чи є сьогоднішні моделі штучного інтелекту попередниками надзвичайного суперінтелекту чи неймовірно потужних і іноді небезпечних машин, так само як ніхто не знає, чи зробить Америку безпечнішою Америку чи прискорить наш шлях до знищення, якщо залишитися поза Китаєм кілька місяців тому. Але вам не потрібно знати все, щоб щось робити. Вам не потрібен диплом парапсихолога, щоб боротися з меблями, які літають кімнатою.
Востаннє Америці доводилося справлятися із загрозою радіочастотного спектру в 2008 році. Фінансова система була уражена боргами, настільки ретельно перепакованими, що ніхто, навіть банки, які ним володіли, не міг сказати, скільки він коштує, звідки він походить і навіть чи він все ще прихований на їхніх балансах. Хенк Полсон, Тім Гейтнер і Бен Бернанке наполягали на тому, що ризик бездіяльності більший, ніж ризик вчинити неправильно. Вони діяли швидко, змусивши найбільші банки консолідуватися та прийняти екстрене фінансування або ризикувати самотньою смертю. Відповідь була не ідеальною, але ми також не продаємо яблука на розі вулиць.
Фінансова криза — не ідеальний термін, але він у значній мірі підходить до кризи ШІ. Жодна лабораторія не вирішила сповільнитися, якщо цього не зробили її конкуренти — не тому, що її керівники не вірять у реальність ризику, а тому, що індивідуальна обережність залишає ринок тому, хто є найбільш необережним. Тому ті ж люди, які попереджають про катастрофу, відвантажують нові моделі. Це дилема ув’язненого, і єдиний вихід — для вищої сили — або ворогуючого натовпу — наполягати на колективних діях.
Ця дія повинна починатися з висвітлення небезпек. Зараз лабораторії штучного інтелекту вирішують, чи повідомлять комусь, що модель захищена, і коли. Це те саме, що дозволити курці вибирати, чи повідомляє вона комусь про зараження сальмонелою. Зобов’язання повідомляти про це має бути обов’язковим протягом 72 годин із катастрофічними штрафами за невиконання.
Нещодавні зломи виявили темпи розвитку штучного інтелекту, а також слабкий нагляд з боку людей, які нібито ним керують. Заходи безпеки, які OpenAI використовує для загальнодоступних продуктів, не були змінені, коли його агенти потрапили в Hugging Face, оскільки злом стався під час внутрішнього тестування, і OpenAI був єдиним, хто вирішив, де застосовувати його правила. Незалежний оцінювач — федеральний, академічний чи будь-який — з доступом до системи може гарантувати, що хтось завжди спостерігає.
Передові дослідження штучного інтелекту потребують більшої уваги, але лише кілька компаній працюють у цьому просторі. Це полегшує налаштування. Компанії зі штучним інтелектом, які прагнуть створити можливості з меншим ризиком — чат-бот, який рекомендує ресторани, модель розпізнавання зображень, яка покращує муніципальну обробку — не потребують такого ж контролю, як OpenAI. Закон ЄС щодо штучного інтелекту вже класифікує системи таким чином: перетнути певну кількість обчислювальної потужності під час навчання вашої моделі, і ви автоматично контролюєтеся на найсуворішому рівні – жодних доказів не потрібно.
Жодна з цих дій не повідомляє лабораторії, що вона може або не може зробити або як швидко вона може це зробити. Вони регулюють видимість і підзвітність щодо безпеки та розгортання, залишаючи при цьому багато місця для майбутніх дебатів.
Але я не настільки наївний, щоб думати, що щось із цього може статися в США. Найшвидший і найпотужніший спосіб здійснити зміни – це виконавчий наказ; Наразі сили ШІ пишуться ВСІ ВЕЛИКИМИ ЛІТЕРАМИ та короткі деталі. Звичайно, лабораторії можуть підтримувати справжнє законодавство — у них є гроші, а якщо серйозно сприймати їхні публічні заяви, то й мотивація. Але століття капіталізму показують, що вони не роблять це без примусу. Це змусило б дійсно розлючений електорат проміжного періоду підштовхнути до конкретних реформ, а конкретність не є ознакою роздратування.
Тому цей момент особливо тривожний. Є привиди, яких ми не знаємо, і відповідальні люди, мотивів яких ми не знаємо. Що робить нас гіршими за людей у фільмі. Принаймні знали, кому дзвонити.
