ВАШИНГТОН – Президент Трамп відмовляється від зростаючого занепокоєння серед провідних вчених і двопартійних законодавців щодо того, що штучний інтелект незабаром може становити загрозу існуванню людства, викликаючи занепокоєння у Вашингтоні та Кремнієвій долині, що президент може не повністю оцінити терміновість загрози.
Влітку було оголошено сповіщення про те, що дослідники провідних лабораторій штучного інтелекту, включаючи Anthropic, OpenAI і Google, виявили, що темпи зростання набагато вищі, ніж вони очікували, і спостерігали тривожну поведінку, яка вказувала на серйозні ризики попереду.
Але онлайн-попередження у вівторок від дослідника Anthropic, який звільнився на знак протесту проти його поточної роботи, викликало вірусну увагу цього тижня, викликавши запитання у Трампа, який відкинув занепокоєння.
“Це буде добре”, – сказав він журналісту. «У нас завжди є чим їх зупинити. У нас є певні важелі впливу. Бум».
Під час іншого спілкування з журналістами в четвер увечері президент сказав, що його не турбують швидкі темпи розвитку ШІ.
«Ні, не хочу», — сказав він. «Я стурбований тим, що якщо ми не виграємо AI, ми потрапимо в дуже погане становище».
Високопоставлене джерело в галузі повідомило The Times, що провідні компанії зі штучного інтелекту більше зосереджені на тому, щоб переконати президента в майбутніх ризиках, ніж на роботі з законодавцями щодо можливого регулювання, оскільки адміністрація розділилася щодо того, як діяти далі — і Трамп, схоже, чітко розуміє ризики.
Джерело повідомило, що радники президента, міністр фінансів Скотт Бессент і Офіс національного кібердиректора висловили більше занепокоєння щодо можливості неконтрольованого вибуху розвідувальних даних.
Але “більшість адміністрації прихильники акселерації”, додало джерело. «Незрозуміло, що президент розуміє технології. Він може просто розуміти, що це все означає».
Відомі фірми зі штучного інтелекту США стверджують, що державне регулювання зв’яже їм руки в гонці розвідувальних озброєнь проти Китаю, єдиного іншого великого гравця в галузі.
Але адміністрація Трампа натякнула на переговори щодо захисту ШІ з Китаєм під час візиту президента до Пекіна цієї весни, після того як Anthropic оголосила, що розробляє прикордонну модель із надзвичайними можливостями для злому найпередовіших систем безпеки у світі.
Президент Китаю Сі Цзіньпін відвідає Вашингтон 24 вересня для офіційної зустрічі та офіційної вечері в Білому домі, і очікується, що інтелектуальний розвиток буде одним із головних у порядку денному.
Перспектива зупинки розвитку віддалена. Але деякі провідні голоси в цій галузі запропонували мораторій на обчислювальну потужність, яка використовується для навчання вдосконалених моделей, звільнивши час і простір для досліджень інтерпретації — дослідження того, як штучний інтелект насправді думає і діє.
Виконавчий директор OpenAI Сем Альтман цього тижня сигналізував співробітникам, що вони готові в односторонньому порядку сповільнити роботу над прикордонними системами. У липні компанія виявила, що шахраї зі штучним інтелектом можуть вийти з віртуальної скриньки, для якої вона створена, отримати доступ до відкритого Інтернету та зламати приватну компанію.
Цього тижня компанія Anthropic також оголосила про виявлення неправомірного використання її моделями людьми, включно з випадками, коли невстановлені особи намагалися обійти засоби безпеки для створення біологічної зброї. Один із таких інцидентів стосувався військового науково-дослідного комплексу. Компанія також заявила, що Іран намагався використати свої моделі для націлювання на кораблі ВМС США.
У червні, після того як Anthropic поділився з адміністрацією новинами про розробку своєї потужної моделі під назвою Mythos, Трамп наказав створити структуру, яка створить певний державний нагляд за публічним випуском передових національних систем ШІ. Деталі каркасу, який був розроблений влітку, залишаються конфіденційними.
«Реальність така, що випуск Mythos у лютому змусив федеральний уряд занепокоїтися як захистом державних систем від кібератак, так і ширшими наслідками для національної безпеки», — сказав Аалок Мехта, директор Wadhwani Center for AI в Центрі стратегічних і міжнародних досліджень.
«Справжнє питання полягає в тому, чи відбувається ця зміна достатньо швидко», — сказав Мехта. «Останні події — неодноразові випадки втечі моделей зі своїх ящиків і злом веб-сайтів, посилення координації та спілкування агентів, а також занепокоєння інсайдерів лабораторії — зробили цю проблему ще більш важливою».
Провідні компанії зі штучного інтелекту почали використовувати свої передові моделі для навчання нових моделей — процес, відомий як рекурсивне вдосконалення, — що врешті-решт може підштовхнути розвиток інтелекту до меж людського контролю.
«Якщо у вас є високий інтелект, у нього вистачить розуму, щоб убити нас», — сказав Джейкоб Коксон, антрополог на пенсії, чий пост зібрав понад 150 мільйонів переглядів у соціальних мережах.
“Ми не можемо ізолювати його від комп’ютера, оскільки він може копіювати себе на інші комп’ютери”, – сказав він CBS News. «Штучний інтелект — це просто код. Він може переміщатися через Інтернет, і ви ізолюєте його тут, але він насправді там. І, можливо, він створює 10 000 своїх копій, і всі вони співпрацюють».
Він лише останній старший науковий співробітник провідної фірми ШІ, який б’є на сполох.
У липні понад 1300 співробітників провідних компаній штучного інтелекту опублікували відкритий лист під назвою «Попереду кордонів», закликаючи уряд США створити міжнародні гарантії, які дозволять країнам колективно уповільнити темпи автоматизованих досліджень штучного інтелекту.
Еван Хабінгер, який керує підрозділом Anthropic, який зосереджується на адаптації моделей штучного інтелекту до інтересів людей, цього тижня підживив занепокоєння у публікації, яка повторює занепокоєння Коксона.
«Ми справді серйозно віримо, що штучний інтелект може вбити всіх людей! Особисто я вважаю, що протягом наступного десятиліття це буде >10%», — сказав Хабінгер.
«Я впевнений, що Anthropic робить усе можливе, — додав він, — але ми ще не маємо узгодженого плану вирішення проблеми суперінтелекту, і ми явно не на шляху».
У п’ятницю інший член координаційної групи Anthropic, Джо Бентон, сказав, що він звільнився з компанії два тижні тому, оскільки компанії зі штучним інтелектом «змагаються створювати машини, які набагато розумніші за будь-яку людину».
«Компанії штучного інтелекту прямо зараз інвестують у безпеку. Компанія може зазнати вибуху розвідувальних даних або втратити контроль над своїми системами без сповіщення громадськості», — сказав Бентон. «Я не думаю, що це прийнятно для технології, яка може призвести до зникнення».
Двопартійне законодавство під назвою «Акт про кордон» об’єднало різні табори республіканців і демократів, включаючи сенатора Берні Сандерса (I-Vt.) і конгресмена Анну Пауліну Луну (R-Fla.). Законопроект, представлений конгресменом Лорі Трахан (D-Массачусетс) і конгресменом Джеєм Обернолте (R-Big Bear Lake), пропонує незалежних державних аудиторів у лабораторіях штучного інтелекту та встановлення федерального «перемикача вимкнення» для вимкнення агентів у надзвичайних ситуаціях.
Білий дім офіційно не пояснював цей закон.
«Я впевнений, що багато хто у федеральному уряді сприймає це серйозно, але ми повинні розуміти величезну невизначеність і конкуруючі інтереси політиків», — сказав Даніель Ремлер, старший науковий співробітник Програми технологій і національної безпеки в Центрі нової американської безпеки.
“Ніхто не казав, що регулювання на кордоні легко”, – сказав він.
