Версія цього есе вперше з’явилася в Crash Course, безкоштовному ранковому інформаційному бюлетені Salon. Підпишіться, щоб отримати ранній доступ до таких статей, як ця, а також інших сміливих журналістських розповідей Salon про те, як політика, рухи та культурні війни впливають на реальних людей.
Минулої середи керівник технологічної компанії зі штучним інтелектом випадково оголосив про відкриття в довгому дописі на X, яке, якби це було правдою, стало б великим проривом у біомедичних дослідженнях. Даріо Амодей, генеральний директор Anthropic, написав, що гігантська мовна модель його компанії Claude «виявила молекулярну машину, яка, як ми підозрюємо, може являти собою новий механізм редагування генів».
Отже, що насправді робить ця «молекулярна машина»? Ніхто ще не впевнений. Але це не завадило технічному братству вітати його як нову версію CRISPR, ферментативного інструменту, який руйнує ДНК, як ніхто не займається, викликаючи революцію в надточному генетичному редагуванні, яке охопило дослідження у всьому, від сільського господарства до лікування раку. Не дивно, що його першовідкривачі отримали Нобелівську премію з хімії. Якби програма штучного інтелекту справді зробила хоча б одне подібне відкриття, це було б великою новиною.
Насправді, продовжує Амодей, відкриття може стати кроком до розробки методів лікування більшості захворювань протягом п’яти-десяти років. Прес-реліз компанії містить більш детальну інформацію, але в основному йдеться про те, що Клода попросили провести пошук у великій базі даних послідовностей ДНК на предмет зворотних транскриптаз, ферментів, які копіюють РНК у ДНК. «Після 21 години пошуку цієї інформації приблизно 950 агентами, використовуючи 210 мільйонів токенів, один з агентів помітив щось дивне: повторюваний шаблон послідовностей ДНК, які зустрічаються поруч із геном для дивного RT», — йдеться в повідомленні. За винятком того, що нічого такого «нового» в цьому немає, принаймні на думку великої кількості людей, які навчаються та працюють у цій галузі.
Дімітрі Перрін, доцент Квінслендського технологічного університету, пише в The Conversation: «Занадто рано говорити, що Клод або команда дослідників-людей відкрили «новий CRISPR». Далі він зазначає, що те, що знайшов Клод — раніше унікальна система ферментів, знайдена у вірусах, які вражають бактерії — не обов’язково буде корисною. Потрібні додаткові дослідження, але Перрін пояснює, що відкриття зараз «схоже на CRISPR за своєю архітектурою, але немає жодних доказів того, що воно схоже на CRISPR за своїми функціями».
Почніть свій день з важливих новин від Салону.
Підпишіться на нашу безкоштовну ранкову розсилку, Crash Course.
«Робота Клода навіть близько не схожа на систему DeepMind AlphaFold для передбачення структури білка, яка справді є змінною», — написав Майкл Ле Пейдж, старший репортер New Scientist. Соціальні мережі кипіли іншими прикладами людей, які займаються антропічним піаром, і Саймон Махлінг, доктор філософії, хімік, написав про X: «Клод відкрив щось у біології. Ніхто не знає, що це робить. Але ми вже маємо прес-реліз. … Знайти щось цікаве — це не те саме, що зрозуміти це. Зрозуміти це не працює, показавши». корисний”.
Можливо, дослідник штучного інтелекту Тімніт Гебру резюмував це найкраще: «Будь ласка, подивіться, що скажуть про це «відкриття» експерти в цій галузі, а не ці шахраї чи стенографістки преси. Цей ажіотаж щодо DDOS не припиниться найближчим часом, і ми бачили, як головні ЗМІ випускають про це прес-релізи».
Таким чином, Anthropic, схоже, робить досить сміливі заяви про щось, що є крутим і досить дослідним, але на даний момент також навряд чи революціонізує медицину чи науку. Чому це важливо? Технологічна компанія з екстремальними претензіями не нова. Велика ставка. Але порівняйте весь цей ажіотаж (не кажучи вже про енергію, витрачену на його знищення) з галасом кілька тижнів тому про те, як штучний інтелект нібито осягне свідомість і вб’є людство протягом кількох років. Зверніть увагу, що генеральний директор Anthropic Амодей є одним із тих, хто просуває такий наратив, зокрема попереджає, що інструменти його компанії ризикують використовувати для кібератак або тероризму, включаючи розробку смертоносних вірусів. Разом це представляє хибну дихотомію: штучний інтелект або усуне хвороби та страждання, або зробить їх незмірними. Може є третій варіант?
Для всіх, хто захоплюється ШІ, це інструмент із безмежною потужністю. Але в той же час технологічні компанії все ще покладаються на застарілу владу, яку пропонує держава, тому під час недавньої відпустки в США було помічено, як інші технічні керівники підходили до президента Китаю Сі Цзіньпіна. Амодей пропустив зустріч із Сі, чого це варте, але мав приватну вечерю з президентом Дональдом Трампом у неділю ввечері та приєднався до інших технічних лідерів пізніше цього тижня на обіді, організованому Трампом і спікером Палати представників Майком Джонсоном. Там разом із генеральним директором Nvidia Дженсеном Хуангом, генеральним директором Tesla та SpaceX Ілоном Маском, Марком Цукербергом з Meta та іншими президент підписав «морально зобов’язуючий» документ щодо штучного інтелекту, який є багатообіцяючим, поки Трамп неодноразово не каже журналістам, що технологічні компанії можуть контролювати себе. “Саморегулювання дуже важливе”, – сказав Трамп. Схоже, що підписаний документ не має нульового правозастосування чи правового механізму, тому в цьому контексті «морально зобов’язуючий» означає лише «самоконтроль».
Не секрет, чому президент, який інвестує в індустрію штучного інтелекту, тому що він рішуче відкидає будь-яке поняття регулювання, підтримує ідею потенційних можливостей штучного інтелекту. У своїй останній спробі розповісти американській громадськості про «золотий вік» штучного інтелекту (звичайно, Трамп використає цю фразу), у понеділок адміністрація Трампа запустила America.gov, штучний чат-бот, створений Gemini Google і Гроком Ілона Маска, і підписала виконавчий наказ про заміну ШІ «суперінтелектом».
Як зазначив Гебру, бруду немає кінця. Ще одна причина залити холодною водою обурливі заяви про визначення малих ферментів у великих базах даних. (Давайте уникати антропоморфізації цих програм за допомогою дієслова «відкрити».) Сенс пропаганди Anthropic AI полягає в тому, що більшість людей будуть дивитися позаду заголовків і просто «ШІ відкрив новий CRISPR» і думати, що ліки від раку та мир у всьому світі не за горами. Ми просто повинні передати ключі та всі наші гроші в Кремнієву долину. Незалежно від того, чи це утопія, чи антиутопія, це рівень: залиште контроль над цією технологією відповідальним мільярдерам. У цьому сенсі сліпе ковтання позитивної сторони ШІ може бути таким же небезпечним, як і потенційна небезпека його існування.
