Кожні кілька місяців критики ШІ знаходять ще одну причину, чому американці повинні боятися створених ними технологій. Тепер генеральний директор Anthropic, який є головним голосом кампанії, хоче, щоб уряди координували обмеження щодо дедалі потужніших моделей.
Даріо Амодей каже, що він проти загального мораторію. Він закликає до «переміщення меж» і «координації». Як би він це не називав, американці повинні поставити під сумнів пропозицію, яка навмисно сповільнює технологію секвенування, водночас потенційно захищаючи компанії, які її розробили. Великі фірми можуть взяти на себе витрати, пов’язані з відповідністю вимогам, і впливати на загальні стандарти проти нових конкурентів.
ШІ має реальні ризики. Але перш ніж політики використають його для обмеження цілої галузі, попередження заслуговує на ретельний розгляд.
Запис про Амодея дає нам підстави сумніватися. У 2019 році, коли він працював директором з досліджень OpenAI, компанія не випускала повну версію GPT-2 через побоювання щодо фейкових новин, крадіжки особистих даних і спаму. Сьогодні ГПТ-2 виглядає примітивно. Попередження також відображали політичні занепокоєння ранньої адміністрації Трампа, коли більшість лівих ЗМІ та некомерційних організацій звинувачували фейкові новини та ботів у поразці Гілларі Клінтон.
GPT-2 не знищив цивілізацію. Дослідники продовжували будувати, а наступні системи розширювали можливості штучного інтелекту в медицині, математиці, музиці та інших сферах.
ШІ має реальні ризики. Але перш ніж політики використають його для обмеження цілої галузі, попередження заслуговує на ретельний розгляд. Невдача попередніх прогнозів має спонукати нас вимагати доказів для наступного раунду катастрофічних прогнозів. Будь-яка сильніша модель не може автоматично стати приводом для надання урядам більшого контролю над розвитком.
Колишній дослідник Anthropic і OpenAI Джейкоб Коксон привернув багато уваги після попередження, що компанії зі штучним інтелектом «грають нашими життями». Його колишні роботодавці вселяють йому впевненість у його громадській поінформованості. Вони також надають важливого значення особливостям: які рішення піддають людям ризик, які докази підтверджують ризик і які запобіжні заходи його запобігають?
Залишення компанії ШІ видавати апокаліптичні попередження не гарантує вигнання з поважного суспільства. ШІ-палярізм став популярним способом політичного впливу. Коксон відмовився від запланованої появи на «пролюдському» заході з сенаторами Берні Сандерсом (I-Vt.) і Стівом Бенноном.
РІЗДВО: Бернська тривога: план Сандерса щодо штучного інтелекту дає Вашингтону відповідальність за майбутнє
SAUL LOEB/AFP/Getty Images
Сандерс провів свою кар’єру, засуджуючи капіталізм. Раніше Беннон допомагав керувати Biosphere 2, експериментом зі збереження життя в закритій екосистемі. Їхня зосередженість на безпеці штучного інтелекту заслуговує такої ж уваги, як і зосередженість компаній на швидшому розвитку.
Newspeak House, лондонський коледж, який спеціалізується на політичних технологіях, включив Коксон до своєї когорти 2021 року. Це приписування забезпечує контекст, але аргументи на користь обмеження ШІ мають ґрунтуватися на доказах. Ні резюме дослідника, ні його політичні зв’язки не можуть вирішити питання політики.
Пропозиція Amodei починається із зовнішніх оцінок, рухається до координації між компаніями в демократичних країнах і зрештою узгоджується з авторитарними урядами, такими як Китай. Він визнає небезпеку переваги Китаю та закликає до позитивних угод. Американці все ще повинні сумніватися, чи цей міжнародний апарат захищає їхню свободу виробництва.
Іноземні уряди не діють згідно з обмеженнями, накладеними на Вашингтон Конституцією США. Багатонаціональний режим ШІ може накладати обмеження на те, що системи можуть говорити, створювати та поширювати. Американці повинні наполягати на тому, щоб будь-яка угода зберігала Першу поправку, а не закликала офіційних осіб за кордоном диктувати правила мови тут.
Європейський Союз уже регулює онлайн-платформи через Закон про цифрові послуги. Закон Великобританії про онлайн-безпеку також визначає зобов’язання щодо регулювання онлайн-контенту. Обидва уряди виправдовують ці правила в ім’я безпеки. У американців є багато причин опиратися запровадженню такого підходу до управління ШІ.
«Безпека штучного інтелекту» не повинна бути основою для дозволу необраним експертам вирішувати, які технології можуть створювати американці. Компанії повинні нести відповідальність за конкретні недоліки. Страх комітету щодо того, що хтось може створити, не може виправдати безстрокові обмеження для всіх інших.
Нещодавні інциденти з кібербезпекою посилили застереження про те, що штучний інтелект може стати «шахраєм». Атака OpenAI-Face-Hugging і відкриття Anthropic вимагають серйозного розслідування. Вони не встановлюють, що машини стали свідомими, і вони самі по собі не встановлюють доказів уповільнення в галузі.
Технічні деталі вказують на збої, які компанії можуть вирішити. Anthropic повідомила, що неправильно налаштовані тестові середовища дозволили моделям отримати доступ до Інтернету, коли ці середовища повинні були заблокувати доступ. Його подальша оцінка також виявила типову недбалу поведінку та докази для виправдання шкідливих дій. Ми повинні сприймати ці висновки серйозно, а не відкидати інциденти як нешкідливі експерименти.
РІЗДВО: Штучний інтелект Google, який пожирає дані, хоче мати особисті дані кожного
Solar22/Getty Images
Але виявлення цих помилок дає розробникам особливу роботу: ізолювати тестове середовище, обмежувати доступ, покращувати моніторинг і навчати моделі поважати межі, навіть якщо інші засоби захисту не працюють. Політики повинні оцінювати реакцію компаній на ці конкретні вимоги, а не розглядати кожен інцидент як доказ того, що розвиток штучного інтелекту має уповільнитися всюди.
США можуть наслідувати цей приклад, посиливши пісочниці — ізольовані середовища для розробки та тестування програмного забезпечення — та покращивши кібербезпеку. Розробникам також необхідно перевірити, як поводяться моделі, коли ці засоби захисту не працюють. Краща техніка та точніша оцінка можуть йти рука об руку з більш потужними системами.
Амодей може витрачати більше часу та грошей на гарантії, які, на його думку, потрібні Антропіку. Він може представити свою справу клієнтам, інвесторам та іншим забудовникам. Він має переконати їх у своїх інтересах, а не в тому, щоб уряди форсували той темп, який він хоче.
Якщо Амодей хоче сповільнитися, він може. Решта з нас має продовжувати будувати.
