Ми в останні часи ШІ?

Люди, ймовірно, єдиний вид на землі, який активно фантазує про власне вимирання, і, звичайно, єдиний, який активно в цьому бере участь. Навіть уся ця історія про те, що лемінги тікають з гір, є міфом, але ми, безволосі примати, не просто перетворюємо екзистенціальну смерть на розвагу (увесь постапокаліптичний жанр чудовий) чи релігійні рухи, ми постійно винаходимо нові способи порушити наше глобальне суспільство та поставити нас усіх під загрозу масової загибелі.

Останнє серйозне місце в цій категорії – штучний інтелект, який насправді не є інтелектом і не відображає нових страхів. Але надзвичайний прогрес, досягнутий у ШІ за останні кілька років, нарешті перетворив його на щось, що лякає людей майже так само, як ядерна зброя чи рука Бога. Чи дійсно ШІ стане агентом масових вбивств? Ніхто насправді не знає, але це не заважає людям робити незвичайні ставки.

Ця ситуація погіршується тим, що керівники компаній штучного інтелекту попереджають або погрожують громадськості, що інструменти, які вони розробляють, можуть не тільки знищити роботу кожного, але й саме людство. Ми потопаємо в маніфестах технічних братів, які водночас захищають штучний інтелект як чудо-технологію та мокрий сон терористів, усе настільки просякнуте маркетинговою мовою, що важко розібрати, наскільки це загрозливо чи доброзичливо.

Тим часом наш президент багато вихваляється тим, що «СИЛЬНИЙ ТА СТАБІЛЬНИЙ (ВИСОКИЙ IQ!) ПРЕЗИДЕНТ — це все, що потрібно для регулювання цієї технології, що є прямою протилежністю впевненості для більшості людей, оскільки він наполягає, що апокаліпсис ШІ є «обманом». Дональд Трамп також зіграв стару червону картку, заявивши, що будь-яка спроба обмежити штучний інтелект лише допоможе Китаю просунутися. «Виграє той, хто виграє з ШІ», — сказав Трамп під час своєї поїздки до Ірландії на вихідних.

Що саме ми намагаємося виграти? Не зрозуміло. Це управління самохідними арміями автономних безпілотників чи безракова утопія масштабу Кардашева Тип II? На даний момент обидва варіанти – в області фантастики, хоча перший набагато менш імовірний. Усе це базується на припущеннях, що нинішня технологія, яка побудована на так званих великомасштабних моделях, стане штучною технологією. загальний інтелект, гіпотетична комп’ютерна система, яка перевершує людський інтелект у всіх сферах. Зауважте, що немає чітких доказів того, що LLM, які по суті є версіями алгоритму передбачуваного тексту на вашому телефоні, створюють щось настільки складне та богоподібне.

Почніть свій день з важливих новин від Салону.
Підпишіться на нашу безкоштовну ранкову розсилку, Crash Course.

Стрибки, необхідні для переходу від AI до AGI, величезні, нелінійні та все ще дуже теоретичні. Але поширювачі страху стрибають ще далі і кажуть, що коли AGI існує, він може мати завіси для людського роду. Розумно скептично ставитися до гіпотез, упакованих у припущення. Дебати щодо того, що з цим робити, варіюються від подвоєння розробки ШІ з нульовим регулюванням до спалювання всіх центрів обробки даних. MAGA по суті попереджає нас не дозволяти Комуністичній партії Китаю потрапити в свої потворні руки над технологіями: замовкніть і довіряйте Big Tech або «Нехай дані правлять!» Крім того, бум штучного інтелекту – це не зовсім бульбашка! Неважливо, що вся ця риторика може бути спрямована на збереження фондового ринку на плаву, а тим більше на реальні переваги штучного інтелекту.

Можливо, їхні позиції в цьому питанні залежать від того, наскільки глибоко вони вивчили «Термінатора» чи «Матрицю». Незважаючи на це, ніхто з нас не хотів брати участь у цій гонці ШІ. Чому не більше зацікавлені у співпраці з Китаєм? Ми можемо уявити собі алгоритми з божественним інтелектом, але не дипломатію ШІ? Все занурюється в дежавю холодної війни.

Звичайно, цілком логічно, що майбутнього штучного інтелекту можна побоюватися, якщо він призведе до краху капіталізму пізньої стадії. Можливо, настав час дослідити, чого ми насправді боїмося і чому, замість того, щоб робити припущення про те, що штучний інтелект може, а що ні, особливо в майбутньому. Зрештою, це лише технологія, інструмент, а значить, ще й зброя в чужих руках. Дійсно, штучний інтелект вже широко використовувався у війні, від нападу США на Іран до повністю автономних дронів у російсько-українській війні. Неважко уявити, що ця ситуація погіршуватиметься, але не забувайте, хто контролює. Як стверджував мій колега Алекс Гелбрейт, «лідери не можуть покласти на успіх ШІ уникнення штучних негативних ефектів. І те, і інше є результатом реальних рішень, прийнятих справжніми мислячими людьми. Провина за будь-яку шкоду, яку завдає технологія, має лежати на її творцях».

Для технічного братства сказати, що штучний інтелект може одного дня порушити безпеку та знищити цивілізацію, звучить як безвідповідальність, як і для інвесторів. Можливо, Кремнієвій долині варто боятися, що ми визнаємо їх блефом або посадимо їхніх керівників у в’язницю за будь-який злочин, який станеться одного дня. Але чому ми тримаємося страхів, які вони нам продають? Можливо, це вбудований людський інстинкт, після розвитку самосвідомості нашої власної смертності, зважати на існуючі небезпеки. Цей імпульс, безсумнівно, виник ще до часів Ісуса, але з настанням атомної ери апокаліпсис дійсно можливий, хоча ця перспектива має не стільки спільного з жахливими сценаріями Книги Одкровення, скільки з військово-промисловим комплексом. Однак побоювання щодо штучного інтелекту домінують у дебатах, тоді як більші та неминучі загрози здебільшого не визнаються.

Як зазначив дослідник ШІ Тімніт Гебру в інтерв’ю Wired минулого тижня, у всьому цьому є дивний релігійний тон. Він сказав, що «справді існує штучний інтелект для автономної зброї та машин для вбивства, які фактично використовуються у війні. Кліматична катастрофа — це реальна річ, яку можуть посилити те, що створюють ці технологічні компанії. Керівники використовують ШІ як привід, щоб позбутися своїх розлючених працівників. З нашої точки зору, це розповідь про бога-машину. Суміш релігій, суміш люди, які є справжніми віруючими, як проповідник, який каже, що настають останні часи.

Враховуючи масштабні та все більш смертоносні наслідки забруднення повітря, хвиль спеки, екстремальних повеней та інших природних катаклізмів, загрозою існування № 1 для людства залишається зміна клімату, яка стане набагато гіршою до середини минулого століття. Глобальне потепління значною мірою спричинене промисловістю викопного палива, але в США ми регулюємо це менш жорстко, ніж будь-коли, і Агентство з охорони навколишнього середовища оголосило в понеділок, що скасовує правила, які обмежують викиди парникових газів від вугільних і газових установок. Звичайно, індустрія штучного інтелекту пов’язана з деструктивними апетитами центрів обробки даних, але якщо ми думаємо, що лише уявні машини для вбивства можуть знищити значну частину людської цивілізації, нам потрібно подумати ще раз. Ми вже на шляху до цього.

Повідомлення Чи ми в кінці часів ШІ? вперше з’явився на Salon.com.

Source link