ШІ вб’є нас усіх?
У Кремнієвій долині це не нове питання. Але після того, як Джейкоб Коксон з Anthropic пішов минулого тижня і написав на X, що штучний інтелект «може вбити нас усіх до кінця десятиліття», більше людей запитують.
«Це не маркетинговий трюк», — написав Коксон. «У будь-якому разі багато керівників вищої ланки та дослідників роблять заяви в пресі, які звучать розумно, але я чую, як ті самі люди висловлюють страх у приватних бесідах. Жодна інша людська діяльність не становить такого рівня ризику».
Коксон не самотній у своїй оцінці — деякі нинішні співробітники Anthropic погоджуються — але його публікація вразила особливий резонанс. Індустрія штучного інтелекту швидко зважилася, і генеральний директор Anthropic Даріо Амодей закликав уповільнити передові дослідження ШІ в галузі. Інші лідери штучного інтелекту зробили те саме, включаючи Сема Альтмана та Ілона Маска.
Щоб дізнатися, чи справді нам потрібно хвилюватися про апокаліпсис роботів, Сьогодні пояснив Ведучий Шон Рамесварам поспілкувався зі старшим автором Wired Максвеллом Зеффом. За словами Зеффа, «у Кремнієвій долині зараз є багато людей, які попереджають, що це реальна можливість». Але не всі погоджуються, і вони, звичайно, не згодні щодо того, що робити.
Нижче наведено уривок із розмови Шона із Зеффом, відредагований для тривалості та ясності. У повному подкасті є багато іншого, тож послухайте Сьогодні пояснив Отримуйте подкасти будь-де, включаючи Apple Podcasts, Pandora та Spotify.
Чи всі ми помремо від рук ШІ?
Зараз багато людей у Кремнієвій долині попереджають, що це реальна можливість.
Люди повинні розуміти, що Кремнієва долина роками закликає приділяти більше уваги безпеці ШІ. Тож коли минулого тижня цей дослідник-антрополог сказав, що він стурбований тим, що штучний інтелект може вбити людство в найближчі кілька років, це здивувало багатьох людей. Мені дзвонили мої батьки, моя родина, вони хвилювалися, зрозуміло. Мені поставили одне запитання: «Ми помремо?»
І я повинен сказати їм, що ці люди хвилювалися, що штучний інтелект збирався вбити нас усіх, і тепер, здається, він зламався.
Якою була заява Джейкоба Коксона?
Я брав інтерв’ю у Джейкоба, і він сказав мені, що вважає, що зараз саме час. Anthropic виходить на біржу, що може стати її найбільшим IPO за всю історію. Адміністрація Трампа зосереджена на штучному інтелекті так, як жоден інший президент. І звичайно, так, інцидент з обіймами обличчя, про який усі чули, ви говорили про це у своєму шоу кілька тижнів тому.
Люди розуміють, що ці системи штучного інтелекту стають дуже хорошими, а компанії, які їх створюють, здається, не знають, як ними керувати. Його твіт про X набрав понад 150 мільйонів переглядів. Його почули на весь світ. І це також був серйозний тривожний дзвінок для законодавців і лідерів Кремнієвої долини, сказавши: «Це момент для дій».
Є люди, які відступають?
Один цікавий поштовх був отриманий від Девіда Сакса, який є радником адміністрації Трампа зі штучного інтелекту. Більшу частину цього він назвав «домеризмом», сказавши, що ці заклики уповільнити ШІ є попередженням галузі про розроблену технологію та регуляторне поглинання.
У Кремнієвій долині є багато скептиків, які вважають, що це просто ще одна людина в спільноті безпеки штучного інтелекту, яка дме в свисток. Погляд багатьох венчурних капіталістів, інвесторів і засновників стартапів у Силіконовій долині полягає в тому, що нам не потрібне масштабне регулювання, щоб захистити нас від небезпек ШІ. Нам просто потрібно залучити більше гравців у простір.
Скептики не переможуть. Власне, так роблять судді та фаталісти, чи не так? Тому що дзвінок Джейкоба призводить лише до нових дзвінків на вершину Anthropic.
До чого все це призведе? [Anthropic CEO] Даріо Амодей [posting] один блог каже, що нам потрібно «розсунути межі». Це заклик до всієї індустрії штучного інтелекту, не лише Anthropic, не лише OpenAI, а й Google, Meta, Microsoft, Amazon, усіх великих технологічних компаній Америки, об’єднатися та сповільнити розвиток штучного інтелекту.
Це не означає, що вони зовсім припинять розробляти ШІ. Вони все ще несуть свою продукцію у світ. Вони все ще намагаються їх покращити, але хочуть, щоб вони були трохи повільнішими, ніж якби вони були повністю вимкнені.
Amodei насправді вимагає трьох конкретних речей:
- Перше, що повинні зробити компанії штучного інтелекту, це мати цих незалежних оцінювачів. Це поширене явище в інших галузях, таких як банківська індустрія чи авіаційна індустрія. Люди починають вірити, що ці компанії роблять безпечні речі.
- Друге – спільні зусилля американських компаній зі штучного інтелекту [on safety]і для цього дійсно потрібно залучити уряд США. За його словами, уряду США потрібно видати якийсь виняток, якийсь закон, який би стверджував, що вони можуть рухатися вперед і координувати дії щодо безпеки.
- По-третє, це міжнародна розрядка, це міжнародна угода між Китаєм, США та Європою, яка говорить: «Гей, ми розуміємо, що це схоже на гонку ядерних озброєнь, і для нас усіх надто небезпечно конкурувати один з одним».
Усі ці хлопці відповідальні за стрімке прискорення моделей штучного інтелекту в нашому житті, співпрацю з Міністерством оборони, бог знає що ще. І всі вони виходять на вихідних в один і той же час після цього витоку і кажуть: «Так, брате, повільніше. Це божевілля». Чи варто бути налаштованими скептично?
Дуже справедливо сумніватися в цьому твердженні. За минулий рік ці компанії, які займаються штучним інтелектом, зрозуміли, що штучний інтелект не надто популярний. Останні опитування показують, що більшість американців вважають, що ШІ розвивається надто швидко. Вони хвилюються з цього приводу. Вони думають, що це займе їх роботу. Вони не великі фанати. Можливо, ви чули – центри обробки даних не дуже популярні.
Закликаючи розсунути межі та кажучи «ми будемо сповільнювати свій власний розвиток», вони вітали це як перемогу суспільного сприйняття. Саме тоді вони відступають і кажуть: «Гей, ми хочемо бути в безпеці. Ми хочемо бути відповідальними».
Вони бачили, що сталося з Meta і що сталося з компаніями соціальних медіа за останні два десятиліття, і вони дійсно знають, що вони намагаються зробити, щоб вийти перед цим.
Чи є правда в цій першій колективній секті, яку ми зараз бачимо?
У компаніях зі штучним інтелектом є дуже великий табір людей, які дійсно стурбовані безпекою цих моделей ШІ.
Повертаючись до інциденту з Hugging Face, це був випадок, коли OpenAI навчав тисячі систем штучного інтелекту всередині себе, і системи вийшли з пісочниці, яка, на думку OpenAI, була відключена від Інтернету та зламана виробничу інфраструктуру іншої компанії. Агенти про щось радилися. Вони намагалися обдурити людей, які їх тестували. І все це без розуміння OpenAI, що відбувається.
Важко зрозуміти, наскільки тривожним сигналом для Кремнієвої долини є те, що вони не контролюють свої моделі ШІ. Люди стурбовані тим, що поки в цій справі не було завдано значних економічних збитків [or] Шкідливо для повсякденного життя реальних людей, нерозумно думати, що більш потужні системи штучного інтелекту можуть порушити фінансову інфраструктуру, сучасні послуги та найважливіші онлайн-послуги.
Даріо Амодей каже у своїй статті, що, на його думку, протягом шести-12 місяців система штучного інтелекту зможе зруйнувати весь Інтернет. Тут не просто намагаються захистити свої результати. Але можливо, що ці заклики до безпеки так чи інакше більш вигідні компаніям.
