Ліворуч – праворуч про ШІ

Дозвольте зізнатися, що мені боляче писати, а вам може бути боляче читати: я думаю, що Езра Кляйн має рацію.

Я рідко погоджуюся з Klein, a New York Times аналітичний центр і живий архетип Liberal Media Elites™. Насправді я ставився до нього як до боксерської груші — вибачте, а фольга за мої особисті думки щодо імміграції та інших тем.

Але я думаю, що він має рацію — і багато хто з правих небезпечно помиляється — щодо важливішої теми: штучного інтелекту. І я вважаю, що зараз важливо сказати, враховуючи зростаючий консенсус правих, що «домеризм ШІ», який підтримує Кляйн, є дурним, якщо не дурним.

Ця думка суперечить мені постійним дописувачам Американський консерватор і з Куртом Міллсом, нашим виконавчим директором, і це об’єднує мене з моїм старшим редактором Люком Нікастро. Що стосується обмежень імміграції, антивоєнного консерватизму та економічного націоналізму, співробітникам TAC можна довіряти. Але щодо нового політичного випуску AI ми маємо великий намет тут, у найкращому правоцентристському журналі країни. Старші редактори ТАКу, єднайтесь!

І все-таки я не можу думати, що наш штучний інтелект міг би навіть зрівнятися з Кляйном, головна функція якого — перетворювати кожну божевільну ліву ідею на тиранічний лібертаріанський консенсус. У 2014 році, під час моральної паніки з приводу зґвалтувань у студентських містечках, Кляйн стверджував, що «чоловіки повинні відчувати холодний шок страху на початку сексуального контакту». Через три роки ми отримали MeToo. У 2018 році Кляйн виправдовував риторику проти протогеноциду білих у соціальних мережах — наприклад, «якоть болісно, ​​скільки радості я отримую від жорстокості до старих білих чоловіків» — як іронічне вираження виправданого розчарування. Через два роки у нас відбулися заворушення Джорджа Флойда.

У ці дні Кляйн допомагає поширювати ідею про те, що штучний інтелект заслуговує глибокої занепокоєності уряду та регулювання. Зважаючи на його кар’єру досі, здається хорошим показником того, що через два-три роки самовдоволені вчені критикуватимуть ідеї технології, самовдоволені активісти спалять центри обробки даних, а законодавці від Демократичної партії проповідуватимуть святенницькі проповіді проти штучного інтелекту, не звертаючись до проблем, які він створює.

Звучить погано. Але моя робота, як я розумію, полягає в тому, щоб добре думати про політику і говорити вам те, що я щиро думаю. І, чесно кажучи, я думаю, що Кляйн правий щодо ШІ. В останньому епізоді подкасту він добре відобразив деякі небезпеки штучного інтелекту, які так хвилювали мене в останні місяці.

«Це рідний цифровий інтелект, який орієнтується в цифровому світі, а наш світ все більше будується на цифровому світі», — сказав Кляйн. «Наша фізична інфраструктура — це шар атомів поверх коду. Вона штучно надійно функціонує в цьому світі, від якого залежить наш світ, — це критично важливо для нашого майбутнього. І зараз штучний інтелект не працює надійно».

Останнє речення є ключовим. Ідея про те, що автономні «агенти» штучного інтелекту можуть виходити за межі сценарію та загрожувати цифровим системам, перейшла від фантастичних спекуляцій до встановлених фактів. Крім того, на мій погляд, цифрові системи настільки переплетені одна з одною та з нашим життям у «м’ясному просторі», що ми повинні серйозно сприймати будь-яку загрозу для них.

Яскравим прикладом ненадійного штучного інтелекту, який загрожує цифровим системам, став багатомісячний інцидент «Face Hugger», який почався цієї весни. Добре, що OpenAI оголосив епізод із таким нечітким слоганом, оскільки більш доречною назвою було б «Сотні агентів OpenAI вийшли з в’язниці та працюють разом, щоб обійняти обличчя кібератаки та замести сліди». Занадто довго, я думаю.

За дивним поворотом долі, тривожна подія, яка мала пробудити людей до значних небезпек штучного інтелекту, натомість зменшила нашу колективну здатність протистояти небезпеці. Як добре виявив Нікастро в цій колонці кілька тижнів тому, це підштовхнуло дебати щодо штучного інтелекту ближче до виру партійної поляризації, яка завжди псує політичний дискурс.

Як це сталося: інцидент Face Hug спонукав Даріо Амодея, співзасновника та генерального директора Anthropic, написати есе, в якому виступає за уповільнення розвитку ШІ. Хоча технічні світила, включаючи Ілона Маска та Сема Альтмана, погоджуються з есе, і хоча деякі консерватори продовжують підтримувати регулювання ШІ, багато американських правих стверджують, що Амодей має приховані мотиви, а саме бажання отримати регулювання.

Інші консерватори пішли далі і демонізували Амодея як злого лиходія. Президент Дональд Трамп назвав це пропагандою «хворої змови проти ШІ та центрів обробки даних». Білий дім, як повідомляє Axios у четвер, навіть оприлюднив меморандум, у якому Амодей описується як батько-засновник дивно жорстокого культу антилюдських технологій.

Все це здається мені неможливим і абсолютно марним. Мамалига аргументи, зрештою, є логічними помилками. Як нація, наша політична реакція на появу та швидкий розвиток ШІ не повинна залежати від того, чи є Амодей диваком.

Основне ставлення консерваторів не повинно залежати від того, чи брали участь коментатори, які сьогодні попереджають про ШІ, у масовій істерії лівих у минулому. Принаймні, консерваторам доводиться боротися з доведеним фактом, що агенти ШІ можуть завдати великої шкоди. Якщо штучний інтелект стане таким загрозливим, як попереджає Кляйн, ми не хочемо, щоб усі відомі способи розробляли ліві.

Я не фахівець зі штучного інтелекту і точно не знаю, що нам робити, щоб зменшити його ризики, але я не сумніваюся, що нам усім було б краще, якби ми могли спокійно вести розумну, двосторонню дискусію. Велике питання, я знаю.