Дехто ще пам’ятає, коли Google визначив себе простим гаслом: «Не будь злим». Коли Google реорганізувався під Alphabet у 2015 році, нова материнська компанія прийняла менш наполегливий принцип: «Роби правильно». Ще одна фраза з нижньою лінією також поширилася – «організація світової інформації», – але будьте впевнені, це ніколи не було гаслом. Це була просто… е-е… місія.
Все одно …
Дивна марка штучного апокаліптизму суддів AI: давайте створимо злого бога, щоб врятувати світ від нього.
До цього тижня деякі з найвпливовіших представників технічної політики чітко повернулися до однієї основної заповіді: уникайте зловмисної поведінки. За це, спасибі жертвам ШІ, дивний бренд апокаліптизму – давайте створимо злого бога, щоб врятувати світ від нього – нарешті зламав технологію інсайдерської домівки та поширився по всьому політичному спектру.
Насичена гостросюжетом мильна опера, як завжди, має глибші течії, ніж може передати канал новин. Але ключовою подією є те, що Білий дім та його союзники швидко рушили до встановлення кількох наріжних каменів, які повернуть нас у старі добрі часи, коли ми були поганими.
Трамп привернув більше уваги тим, що згадав про свою особистість жорсткого хлопця через заголовок “Американізм, а не ефективний альтруїзм!” Але його віце-президент поставився до питання так, як важко перевершити. «Якщо ви побудуєте Франкенштейна, — сказав він, —СТІЙ!“
Зверніть увагу на інтерес. Спроба створити злого бога — скажімо, такого, який має статистичні шанси знищити людський рід — на щастя, досі вважається аксіоматичним злом. Але посилання на Дж. Д. Венса підкреслює, що намагання створити «нових людей» навіть із найкращими намірамитеж погано.
На думку суддів, найкращий спосіб врятувати світ від зла, яке вони можуть створити для інших, — це дати їм певну форму планетарного управління. Венс підтримав більш здоровий підхід: найкращий спосіб запасний світ зла, за який ви відповідальні, полягає в тому, що… не робіть його в першу чергу.
РІЗДВО: Кремнієва долина будує бога за власним образом
Gremlin/Getty Images
Віце-президент може бути таким же видатним партизанським діячем, як і будь-який із його попередників. Але його народна риторика проти влади зараз лунає на дахах індустрії. Майкрософт нещодавно випустила власну книгу правил про те, що не можна створювати. На X директор відділу штучного інтелекту Microsoft Мустафа Сулейман просував «Гуманістичний кодекс поведінки щодо штучного інтелекту», який наполягає на тому, що штучний інтелект «не є свідомим і не повинен бути створений для імітації свідомості. Він повинен бути розроблений, — стверджує Microsoft, — так, ніби він має почуття, суб’єктивні уподобання чи внутрішню мотивацію».
Microsoft також категорично заявляє: «Ми відкидаємо спробу юридичної особи або ідею про те, що моделі можуть заслуговувати добробуту або мати право на права». Тут немає Франкенштейнів!
Вірніше, монстрів Франкенштейна немає – це не означає, що доктору Франкенштейну байдуже в лабораторії.
У Palantir відвертий технічний директор Шям Санкар заявив про це в інтерв’ю в 2025 році. «Я думаю, що секуляристи в Кремнієвій долині заповнюють діру у формі бога у своїх серцях AGI», — сказав Санкар.
«Релігійні люди, звичайно, скептично ставляться» до тези про «створення бога» та порятунок світу від смертних, що, так, само по собі схоже на перевернуту релігію. Для «людей, які є свого роду трансгуманістами», підсумував Санкар, «це те, чого вони хочуть, щоб було правдою».
Навіть Дженсен Хуанг з Nvidia, не відомий своїми біблійними ударами, нещодавно зробив економічну ноту з більш ніж духовним відтінком.
«Якщо ми не впевнені в безпеці продукту, як і всі компанії… якщо ви створюєте продукт або послугу і не впевнені в його продуктивності, можливостях або безпеці, не випускайте його», — сказав він. «І це дуже зрозуміла річ. Ви намагаєтеся переконатися, що ви випускаєте те, що цінується ринком. Ринкові сили вже діють. Нам не потрібні нові закони. Нам не потрібні нові правила».
РІЗДВО: Запитання: більшість людей вважають, що штучний інтелект може зробити це з людством, але не погоджуються, що робити
da-kuk/Getty Images
Переклад: Чи чуєте ви голосочок у своїй голові чи, швидше за все, у серці? Пошепки: «Ні, цей продукт поганий»? Не рекламуйте це.
Виявляється, ви просто можете немає зроби це!
Звичайно, логіка Хуана трохи оманлива. Нам хочеться вірити, що ринок карає поганих людей за те, що вони приносять погані речі на ринок, але це не завжди працює так. Поки ми говоримо, сучасні доктори Франкенштейни трансплантують органоїди людського мозку мишам, сконструйованим таким чином, щоб вони не мали більшої частини кори головного мозку, що дозволяє людській тканині займати більшу частину порожнього простору та підключатися до нервової системи тварини.
Ні, лікарі! погано! погано! Не роби цього!
Крім них. Зрештою, важливо, щоб люди перевіряли свої серця на наявність зла, перш ніж шукати деінде й показувати пальцями. Але лише духовна наполегливість не втримає суспільство під рейками. Недостатньо для наших божевільних лікарів, незалежно від їхніх благих намірів, оскільки їхні творіння ламають межі навколо людського тіла та нашого священного існування — суперкомп’ютери чи ні.
