Тенденція штучного інтелекту привертати нашу увагу стала очевидною вже деякий час. Дозвол технологіям взяти на себе тягар мислення атрофує нашу здатність підтримувати розумові зусилля. Я постійно бачу це в університетах, де викладаю. Рішення, як я їм кажу, полягає в тому, щоб зайнятися вправами та підтримувати наші когнітивні м’язи активними. Але раптом штучний інтелект зменшив концентрацію людей новим способом, з яким важче впоратися.
Минулого тижня звернення до будь-якого основного джерела новин, крім соціальних мереж, означало зіткнутися з перспективою апокаліпсису ШІ. Використання штучного інтелекту вже знизило здатність багатьох людей концентруватися, працювати та мислити; доглядати ШІ погіршує проблему. Я не виняток.
Точка поновлення відбулася 8 вересня. Того вечора молодий дослідник на ім’я Джейкоб Коксон написав на X повідомлення про своє рішення залишити роботу в Anthropic. І Anthropic, і OpenAI, де він працював, «грають нашими життями», писав Коксон. Їхні моделі «незабаром стануть надзвичайними системами, які можуть порушити все, революціонізувати будь-яку галузь за одну ніч і отримати реальну силу та ресурси». «Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття».
Можливо, ще більше тривоги те, що один із провідних дослідників безпеки Anthropic погодився з цим. «Джейкоб тут правий — ми дійсно віримо, що ШІ може вбити всіх людей!» Еван Хабінгер писав про X. «Я особисто вважаю, що протягом наступного десятиліття це буде >10%. Я впевнений, що Anthropic робить усе можливе, але ми все ще не маємо плану рішення щодо співіснування для суперінтелекту, і це явно не на шляху».
Інтернет переповнений розповідями від першої особи про існуючу сигналізацію. На одному з плакатів на Reddit було написано, що вони не спали кілька днів після того, як прочитали попередження Коксона, яке переглянули понад 170 мільйонів разів. «Мені майже 40 років, і я ніколи не живив страху, який мене душив досі. Можливо, це тому, що зараз у мене є 2-річна дитина, і я хочу, щоб він мав шанс вирости».
«Я відчуваю себе паралізованим і безнадійним щодо майбутнього своїх дітей, не кажучи вже про своє власне», — написав інший постер Reddit. «Я дивлюся на своїх дітей і хочу плакати. Мені потрібна допомога/надія. Зараз мені дуже важко». Свій страх висловили і діти. «Я щойно подивився інтерв’ю співробітника Anthropic, і воно налякало мене до лайна», — написав хтось, який назвався 13-річним хлопчиком. «Днями я не міг зосередитися на школі. І я думаю, якщо це так, немає сенсу намагатися отримати хороші оцінки».
Апокаліптика захоплювала колективну психіку багато разів раніше, і часто була інтенсивною серед молоді. У 1982 році, в розпал холодної війни, більше третини учнів середньої школи в Америці вірили, що людство буде знищено за їх життя. У 2021 році опитування 10 000 підлітків віком від 16 до 25 років у 10 країнах показало, що 59 відсотків дуже або надзвичайно стурбовані зміною клімату. Майже половина заявили, що їхні почуття щодо зміни клімату негативно вплинули на їхнє «життя та повсякденну діяльність». Подальші дослідження виявили, що так звана екологічність пов’язана з поганим сном, порушенням концентрації та симптомами депресії.
Міленіялам і тим, хто прийде після нас, доведеться мати справу з можливістю зникнення роботи знань на довгий час. Така перспектива може викликати фінансову паніку, особливо для тих із нас, хто взяв борг у коледжі й тепер утримує дітей. Це також може викликати глибше занепокоєння: наше відчуття мети не виживе у світі, який робить так багато людських зусиль застарілими.
До недавнього часу я міг заглушити свої страхи, якщо не замовкнути їх. Ігнорувати апокаліптичний дискурс зараз майже неможливо. У соціальних мережах здається, що весь грамотний світ сприяє безперервному галасу. Поважні теоретики та експерти змагаються за увагу з олігархами та акселераціоністами, які хочуть прискорити смерть людства. Щоразу, коли мені згадують про те, наскільки глибоко непідготовлене наше політичне керівництво, найстрашніші припущення здаються правдоподібнішими. Найсумніше усвідомлення того, що наше спільне майбутнє значною мірою визначається крихітною групою мільярдерів, які не до кінця розуміють технології, які вони втратили. Я не паралізований цим; Я все ще прокидаюся, піклуюся про своїх дітей, виконую свою роботу. Але я також відчуваю, що моя енергія та зосередженість слабшають. Світ навколо мене, здається, стає відчайдушним.
Хоча ці настрої лише нещодавно посилилися, вони кореняться в давніх занепокоєннях. Технологи десятиліттями попереджали про руйнівний потенціал штучного інтелекту, і цього року стурбованість громадськості особливо посилилася. Інший старший дослідник безпеки в Anthropic, Мрінанк Шарма, пішов у відставку в лютому, попередивши, що «світ під загрозою». У липні OpenAI оголосив, що його набір передових моделей самостійно зламав сервери іншої компанії, проігнорувавши вказівки дослідників і відмовившись їх розкрити. Через тиждень 1386 співробітників великих компаній зі штучним інтелектом опублікували відкритого листа з проханням до уряду врегулювати галузь.
Генеральний директор Anthropic Даріо Амодей повторив їхнє звернення в есе, яке він опублікував через кілька днів після того, як публікація Коксона стала вірусною, стверджуючи, що розробники штучного інтелекту повинні сповільнитися, щоб уникнути зростаючого ризику катастрофи. Сем Альтман, Ілон Маск та інші технічні лідери погодилися, припустивши, що вони також вважають, що уряд має втрутитися. Ця позиція не є заспокійливою, поки Дональд Трамп перебуває в Білому домі. «Єдина перевірка або «запобіжник», який потребує штучний інтелект, — це СИЛЬНИЙ (з високим IQ!) ПРЕЗИДЕНТ», — написав Трамп на початку цього тижня в Social Truth. Але якщо сьогоднішній апокаліптизм призведе до відповідального управління штучним інтелектом, відчай не буде марним.
