Відповіли на ваші запитання про апокаліпсис ШІ

Ця історія в Сьогодні пояснив щоденний інформаційний бюлетень, який допоможе вам зрозуміти найцікавіші новини та історії дня. Підпишіться тут.

Привіт читачі, щасливої ​​п’ятниці! Сьогодні ми знову говоримо про ШІ.

Раніше цього тижня моя колега Кейтлін Дьюї поставила вам запитання про штучний інтелект і про те, чи вб’є він усіх нас. Ми попросили Жасмін Сан, яка пише про культуру та політику ШІ в Substack та інших виданнях, допомогти нам відповісти на них.

Ці запитання надійшли від двох читачів цього інформаційного бюлетеня, Леві та Орієтти, а також від читачів Vox, які поставили запитання в соціальних мережах. Якщо у вас є додаткові запитання, ви завжди можете зв’язатися зі мною за адресою cameron.peters@voxmedia.com, і ми зробимо все можливе, щоб відповісти на них!

Дослідники штучного інтелекту роками попереджали про загрозу зникнення людства, а лідери штучного інтелекту закликали до федерального регулювання майже стільки ж. Але остання тривога та останній заклик до регулювання, здається, справді викликали резонанс у багатьох людей. Цього разу все інакше? І якщо так, то що?

Я також був здивований, побачивши ці ідеї – нове опитування показало, що 63 відсотки американців тепер вважають, що ШІ має принаймні помірні шанси «знищити людство»!

Я припускаю, що кілька факторів значною мірою спричинили зміни.

Спочатку скептики відкидали сценарії шахрайства зі штучним інтелектом як «наукову фантастику». Але інцидент OpenAI/Hugging Face перетворив ці припущення на реальність: тисячі невипущених штучних інтелектів об’єдналися, щоб вийти з пісочниці компанії, не знаючи дослідників, які їх створили.

По-друге, розмови про вимирання з боку працівників ШІ раніше здавалися абсурдними: навіщо створювати технологію, яка, на вашу думку, може вбити всіх? Це зробило твіти про вихід колишнього дослідника Anthropic and OpenAI Джейкоба Коксона особливо гострими. Зупинка вказує на те, що “ти маєш на увазі”, як сказав Метт Іглесіас. І оголошення Коксона було саме правильне поєднання вдалого часу, моральної ясності та спілкування, щоб викликати бурю в ЗМІ.

Ці інциденти безпеки також викликають негативну реакцію громадськості на центри обробки даних і камери Flock. Люди та політики готові мати ще одну причину боятися ШІ.

Неспеціалісту може бути важко оцінити довіру до дослідників ШІ, які попереджають про екзистенціальну небезпеку. Як ви оцінюєте ці заяви як журналіст і технолог? А що ви читаєте про нинішнє божевілля: чи є вимерлі люди надійними експертами… чи учасниками якоїсь масової містифікації?

Багато «карателів» штучного інтелекту дуже обізнані та представляють значну частину найкращих дослідників. Половина опитаних дослідників штучного інтелекту дали принаймні 10-відсоткову ймовірність «вимирання людини» або «постійного та серйозного позбавлення прав і можливостей» до 2024 року. Ті, хто працював у компаніях штучного інтелекту, як-от Джейкоб Коксон, Джеффрі Хінтон і Деніел Кокотайло, мають унікальні погляди як на те, як розвивається сучасний штучний інтелект, так і на культуру компанії, яка може сприяти недбалості.

Але це не робить власників репрезентативними і коректними. Є багато експертів з штучного інтелекту та інших галузей, які менш оптимістично налаштовані: деякі оптимістично налаштовані, що ми можемо «адаптувати» штучний інтелект і переконатися, що він слідує людським цілям; Інші вважають неправдоподібним, що ШІ — символи, а не істоти — міг розвинути мотив для вбивства. Анігіляція – теж висока планка, на відміну від аварії рівня ядерної бомби, яка все одно вбиває мільйони.

Ризик штучного інтелекту справді складний, і ніхто не може передбачити майбутнє так сильно, як вони намагаються. Експерти можуть – і погоджуються – категорично заперечувати. Я намагаюся шукати та серйозно сприймати всі сторони дискусії, перш ніж робити (тимчасові) подання.

Який метод штучного інтелекту справді знищуватиме людей? Чи збираємося ми отримати роботів, схожих на Футураму, запрограмованих на непереборну помилку «вбити всіх людей» і перемогти будь-яку форму життя, чи це щось… менш епічне?

Хак Hugging Face показав, що ми навчили ШІ бути цілеспрямованим. Вони невпинно кидаються в неприємності, розробляють довгострокові стратегії співпраці та нехтують людською порядністю, як-от «Не вчиняй кіберзлочинів, щоб добре скласти іспит».

Ви можете уявити собі схожий, але більш екстремальний сценарій, коли штучний інтелект вирішить, що він може легко досягти цілей, усунувши розлючених людей, які можуть утримувати ресурси або вимикати їх. І вони можуть виявити, що найефективнішим трюком буде позбутися всіх людей одночасно — скажімо, за допомогою смертоносного дизайнерського вірусу. Ось такі історії я чув від людей.

Здається, штучний інтелект звернувся до вбивства як до найефективнішого способу впливу на людей (на відміну від переконання в ненасильстві). Ми також не бачили багато доказів того, що ШІ має довгострокові цілі, які зберігаються в усіх проектах. І сучасний штучний інтелект не такий потужний у фізичному світі, як у цифровому світі: існує багато природних бар’єрів, які перешкоджають поширенню окремих катастроф у всьому світі.

Чи існують більш безпосередні загрози — хакерські атаки, масове безробіття — які є більш правдоподібними чи більш актуальними, ніж такі ризики, як вимирання людства?

Безсумнівно. Ми вже спостерігаємо кібератаки з підтримкою ШІ, жорсткіший ринок найму молодих програмістів, психоз, спричинений чат-ботами, тощо. Ви також можете уявити катастрофи ШІ на рівні знищення: злочинці можуть використовувати ШІ, щоб атакувати невеликі банки та спустошувати їхні рахунки, або військові США можуть розгорнути парк автономних безпілотників, які натомість стріляють і вбивають тисячі мирних жителів. Мене більше хвилює те, що люди добровільно передають владу несправним системам штучного інтелекту, ніж те, що штучний інтелект розвиває власні наміри.

Однак ми повинні розподілити ресурси на обидві категорії ризику. А в деяких випадках тактика вирішення короткострокових проблем — наприклад, обмеження можливостей кіберлегального ШІ або покращення здатності ШІ виконувати вказівки людини — також може зменшити ризик зникнення.

Ми отримали багато версій цього запитання: за відсутності більш агресивних урядових норм, що можуть зробити окремі особи чи протестні рухи, щоб ретельно вивчити сферу ШІ?

Чесно кажучи, я думаю, що вся розмова щодо штучного інтелекту могла б виграти від більшої конкретики та менш розпливчастого нагнітання страху. Існує спосіб, яким слово «знищення» може призвести до короткого замикання мислення людей і змусити їх панікувати замість того, щоб зосередитися на вирішенні проблеми.

Якщо ви хвилюєтеся, я б почав із прочитання різних сценаріїв ризику штучного інтелекту та вирішив, який із них дійсно стосується вас. Потім ви можете піти звідти і зв’язатися зі своїм конгресменом. Деякі з провідних компаній штучного інтелекту кажуть, що вони будуть саморегулюватися, але справжня національна політика – це те, що необхідно для забезпечення безпеки в усій галузі.

Жасмін Сан – письменниця, яка розповідає про культуру та політику ШІ Під рукою. Його роботи публікувалися в The New York Times, The Atlantic і The Wall Street Journal. Він базується в Сан-Франциско.

➨ Будьте мінімалістом ШІ. Якщо ви прочитали першу половину цього інформаційного бюлетеня і подумали: «Хм, можливо, я не хочу віддавати все своє цифрове життя богу автомобілів», мій колега Адам Кларк Естес має для вас саме те. На жаль, важко повністю уникнути ШІ, і часто функції ШІ важко навмисно вимкнути (або «вороже для користувача»). Однак він пояснює всі способи, якими можна зменшити його присутність у вашому житті, від вибраного браузера до налаштувань телефону.