Адамія Шарма / Android Authority
Додайте Android Authority у Google:
LLMs на сцені лише кілька років, але добре це чи погано, вони давно втекли з вікна чату. Замість того, щоб відповідати на запитання чи переписувати ваші електронні листи, наступна хвиля агентів штучного інтелекту хоче зробити більшу частину кліків за вас, але для цього, як правило, потрібно більше заволодіти вашим комп’ютером. Напевно, ми всі погодимося, що це може заощадити вам багато виснажливої роботи, але це також означає, що дещо непередбачуваний автомобіль стане цифровим еквівалентом ключів від вашого будинку. Ми хотіли б знати, чи згодні ви з цим.
Ця угода була підкреслена під час тестування OpenClaw на початку цього року, інструменту з відкритим кодом, який дозволяє LLM працювати безпосередньо з вашим комп’ютером і підключеними службами. Ми дізналися, що, отримавши таку свободу, він може бути вражаюче потужним, але ми також побачили, як швидке впровадження може обернути цей самий доступ проти вас. У нашому звіті про OpenClaw ми провели опитування читачів, щоб поставити вам просте запитання: чи надали б ви магістру права повний доступ до свого комп’ютера? Ваша відповідь була настільки точною, що її можна було передбачити, і результати показані в таблиці нижче.
Найпоширенішою відповіддю було те, що 43% із вас не дозволили б доступ з міркувань безпеки, але ще 27% взагалі не занепокоїлися. Кожен четвертий із вас був відкритий до цієї ідеї та сказав, що дозволив би її, якщо її належним чином захистити. Менше 4% респондентів не хвилювалися щодо будь-яких підводних каменів, що викликає у мене водночас занепокоєння та заздрість безтурботному існуванню цих людей.
Принаймні ми знаємо, що наші опитування викрадають агенти ШІ, оскільки це категорична відмова від пропозиції Big Tech дозволити ШІ керувати нашим життям. Понад 70% категорично проти цієї ідеї, і навіть більшість тих, хто відкритий до неї, хочуть знати, що вона належним чином захищена, що є немалою кваліфікацією. Більшість цих голосів було подано в лютому. до злому Hugging Face, під час що агенти штучного інтелекту змогли вирватися зі свого, здавалося б, пісочниці. Після такого розвитку подій, як ви можете бути впевнені, що агент AI містить правильний? Зрештою, потрібно багато копати, щоб зрозуміти, як саме ці агенти взагалі приймають свої рішення.
Результати цього опитування могли б бути іншими, якби воно проводилося кілька років тому, але, безперечно, здається, що тиск на LLM значно зріс за останні 12 місяців. Це й не дивно, враховуючи такі події, як інцидент із обіймами обличчя та те, що дослідники штучного інтелекту залишили великі передові лабораторії з міркувань безпеки, тоді як нинішній дослідник антропології вважає ймовірність того, що штучний інтелект буде знищено протягом десяти років, становить понад 10%. Це недалеко від впевненості, але тривожно те, що воно значно вище нуля.
Як написав один із читачів у розділі коментарів до нашого звіту про OpenClaw: «Вони можуть фактично контролювати життя людей, скидати уряди, руйнувати все та красти все. Це сюжет фільму про Джеймса Бонда». Незалежно від того, чи думаєте ви про Джеймса Бонда чи Матрицю, ризики, пов’язані з LLM, стають дуже очевидними. Можливо, минуло 30 років відтоді, як Skynet було активовано у фільмах про Термінатора, але можна сподіватися, що антиутопічний погляд наукової фантастики все ще живий.
Дякуємо, що ви є частиною нашої спільноти. Будь ласка, прочитайте нашу Політику щодо коментарів, перш ніж публікувати.
