Раніше цього місяця дослідник штучного інтелекту (ШІ) Джейкоб Коксон звільнився з Anthropic через чотири місяці. У повідомленні X він сказав:
«Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття».
Старший співробітник Anthropic Еван Хабінгер фактично погодився з Коксоном, додавши, що він особисто вважає, що ймовірність того, що це станеться в наступному десятилітті, перевищує 10%.
Зрозуміло, що ця заява викликала хвилю. Зараз багато говорять про уповільнення досліджень ШІ та посилення «людського контролю» над технологіями.
але Який вид Чи міг ШІ вбити нас усіх? Фантастичних сценаріїв не бракує, і більшість із них включає концепцію «суперінтелектуального» ШІ, тобто штучного інтелекту, який потужніший за людину.
Я перерахував ці сценарії до першої п’ятірки та впорядкував їх приблизно від найнезрозумілішого до найбільш очевидного. І я б стверджував, що список також упорядкований від найменш ймовірного до найбільш ймовірного.
1. Ми ніколи не дізнаємось
Прихильники штучного інтелекту часто виправдовують своє занепокоєння неприємним парадоксом 22: як ми можемо уявити, що може зробити суперінтелект, щоб знищити розумних істот, як ми?
Ми повинні бути надрозумними, щоб передбачити, що може зробити суперінтелект. Це як попросити свого сімейного пса уявити термоядерну війну.
Хороша новина полягає в тому, що до суперінтелекту ще далеко. Сучасні моделі ШІ справді добре справляються з конкретними проблемами, але це не означає бути розумнішими за людину в усіх сферах.
Проте нещодавно ШІ розв’язав одну із семи найскладніших математичних задач. Ймовірно, він наближається до інших, що може зробити вас менш оптимістичним.
2. Скріпки
Суперштучний інтелект, ймовірно, буде надзвичайно компетентним у досягненні своїх цілей. Але це може бути байдужим до виживання людини.
Класичним прикладом такої апатії є вигаданий суперінтелектуальний штучний інтелект оксфордського філософа Ніка Бострома, створений для оптимізації виробництва скріпок. Щоб виготовити бажану форму канцелярського приладдя, він швидко перетворює всі доступні матеріали, включаючи людей, планети та зірки, на скріпки.
Те, що ми маємо тут, — це ідеальне виконання нечітко визначених цілей. ШІ не ненавидить людство; він просто визнає, що ми складаємося з атомів, які краще використовувати для скріпок. Це не особисте.
Хороша новина полягає в тому, що цей сценарій поєднує інтелект із силою. Надрозумний ШІ не обов’язково має силу для досягнення своїх цілей. Для перетворення планети на паперові фабрики потрібен дозвіл на планування.
Навіть якщо він отримає дозвіл, будівництво великої кількості паперових фабрик неминуче викличе громадський резонанс. Інтересні групи блокують судовий процес у судах. Екоактивісти заблокували рух бульдозерів.
У світі багато конфліктів, які заважають навіть розумним людям нав’язувати свою волю іншим. Насправді ви можете розглядати центри обробки даних як поточне втілення теоретичного сценарію скріпки. І люди все частіше виступають проти перетворення планети на центри обробки даних.
3. Біологічна зброя
Людство може бути вбито геніальним штучним інтелектом, випустивши в атмосферу нову небезпечну біологічну зброю. Насправді це результат сценарію AI 2027 від AI Futures Project, некомерційної організації, яка займається прогнозуванням впливу передового ШІ.
Цей ризик став більш конкретним минулого місяця, коли дослідники зі Стенфордського університету оголосили, що вони використовують модель генетичної мови ШІ для синтезу 16 нових вірусів.
Тривожно те, що вони просто надіслали генетичну послідовність до лабораторії, і вона відправила віруси назад у пробірки. Весь експеримент коштував щонайбільше кілька сотень тисяч доларів.
Хороша новина полягає в тому, що його надзвичайно важко вбити все з новим вірусом. Для цього вам потрібен вірус, який є дуже заразним і поширюється далеко. Але це правило біології — віруси, які легше поширюються, як правило, менш смертоносні. Навпаки, якщо вірус дуже смертельний, його передача знижується, оскільки більшість інфікованих людей помирає до того, як інфекція встигає поширитися.
COVID вбив менше 1% людства. Найсмертоноснішою пандемією в історії була «Чорна смерть», коли чума вбила більше третини населення Європи в 13 столітті. Однак завдяки нашим розширеним медичним знанням і покращеній санітарії сьогодні навіть холера була б набагато менш смертельною.
4. Ядерна війна
Що, якби штучний інтелект проник у ланцюжок ядерного командування й управління й розпочав ядерну війну? За останні 50 років ми кілька разів помилково наближалися до ядерної війни.
Нам кажуть, що ядерне управління повністю відключено від Інтернету. Однак, як ми бачили в 2010 році, іранські ядерні центрифуги були викриті комп’ютерним хробаком під назвою Stuxnet, який, імовірно, був доставлений на USB-накопичувачі. ШІ також може надати військовим неправдиву інформацію, яка може призвести до незворотних дій.
Доброю новиною є те, що ядерні запаси скоротилися. Але їх ще достатньо, може, половину нас вивезти. І це буде не від самого ядерного вибуху, а від голодної смерті в ядерну зиму.
5. Інші люди
Можливо, потенційна небезпека полягає в тому, що ми затьмарюємо самі себе. І ШІ може це зробити.
Уявіть собі, що – і для цього не потрібно багато фантазії – ШІ призведе до масових втрат робочих місць, забруднює інформаційний простір неправдивою інформацією, підриває нашу політику та зруйнує людські стосунки з фальшивими синтетичними партнерами.
Суспільство може легко розвалитися. Повільно, але впевнено ми відходимо від підтримки людського життя в будь-якому масштабі.
Що робити після всіх цих сценаріїв? Є деякі речі, про які, безперечно, варто турбуватися. Але не хвилюйтеся надто, я сподіваюся.
Тобі Волш є автором книги AI God: Boom or Die? Чого чекати, коли машини перехитрить нас Опубліковано La Trobe University Press.
Цю статтю перепубліковано з The Conversation за ліцензією Creative Commons. Прочитайте оригінальну статтю.
