У абсолютно несподіваному повороті подій Muse AI викрадає колишні та теперішні повідомлення Мети та завантажує вміст у його хмару, навіть якщо він цього прямо не повідомляє.
Якщо ви користуєтеся Facebook, Instagram, Messenger або WhatsApp, ви, ймовірно, стикалися з пропозиціями спробувати наступний великий підозрілий сервіс Meta: Muse. І вона не має такого досвіду щодо конфіденційності, безпеки чи етики, як Meta, материнська компанія Facebook.
Якщо ви не знаєте, Muse — це агент штучного інтелекту Meta, створений для допомоги в таких завданнях, як дослідження тем, підготовка брифінгів і покупки. Відповідно до Meta, він працює на виділеному віртуальному комп’ютері та може використовувати дані з підключених додатків і джерел даних для адаптації своїх відповідей.
Мета каже, що Muse має підкорятися дозволам, встановленим користувачами. Він не матиме доступу до будь-якої інформації, яку ви прямо не дозволили.
Звичайно, Мета також захищає, багатоу верхній частині сторінки «Як працює Muse…» написано:
«Ваша муза може робити помилки або робити несподівані речі», — каже Мета. Без жартів.
Я ніколи не користувався Muse і, чесно кажучи, ніколи не хочу. Пізніше я дізнаюся чому.
Але Джейсон Атен увійшов Inc Те, що він дізнається, на жаль, жахає.
Атен встановив Muse як на свій iPhone, так і на Mac mini, які він використовує для тестування різних агентів ШІ та технологій. Меті знадобився день, щоб «корисно» почати пропонувати ідеї статей на основі текстів, які він надсилав ведучому подкасту.
Коли він запитав Muse, як вона отримала інформацію, вона сказала, що читає банери з вхідних повідомлень. Але це теж неправда.
Після невеликого копання Атен каже, що Muse синхронізувала 187 000 рядків зі своєї бази даних повідомлень, незважаючи на те, що повний доступ до диска вимкнено.
Знімок екрана допису Threads, де Джейсон Атен показує синхронізовані дописи Muse без дозволу
Я хочу, щоб ви прочитали це вдруге. Не вдалося імпортувати програму Messenger із подібною назвою.
Повідомлення Apple.
Якщо Атон не найпопулярніша людина на планеті, я щиро сумніваюся, що він отримав 187 000 рядків тексту за 24 години. що сталося без дозволуMuse увійшла в програму і завантажила дані.
Він не дозволив Muse отримати доступ до повідомлень, і повний доступ до диска не було ввімкнено. Він просто пішов вперед і все одно завантажив ці тексти.
Muse справді може робити «несподівані речі».
Друга строфа така ж, як і перша
Крім проникнення штучного інтелекту, Meta — це не та компанія, якій я б довіряв будь-які особисті дані. Здається, воно бореться на дно, насамперед із собою.
Трохи більше року тому компанія попросила у користувачів Facebook дозволу безперервно завантажувати всю фотознімку в її хмару. Meta заявила, що її користувачі повинні «генерувати ідеї для публікацій» і що вона аналізує зображення за часом, місцем і темами.
Я отримую багато фотографій речей, до яких я не хочу мати доступ до Meta, і ви також. Для мене це племінники, племінники, рахунки за лікування, серйозні виразки на ногах, сексуальні номери та, мабуть, тисячі збентежених селфі, які я надсилаю своїй сестрі.
Нічого з цього не призначено для того, щоб ділитися з компанією, яка неодноразово наступає на будь-який доступний уступ, коли йдеться про проблеми конфіденційності.
І на самоті під Рік тому ми дізналися, що Meta Ray-Ban Display, придбання розумних окулярів Meta, використовувалося багатьма користувачами для порушення конфіденційності та безпеки інших. Існує навіть ціла субкультура розумних окулярів, присвячена вимиканню світла, завдяки якому ви бачите, коли ви знімаєте.
Я не зовсім впевнений, яка кінцева мета Meta, крім з’ясування того, як перетворити кожну людину на постійну машину для створення даних для вашої компанії.
І справа в тому, що вся ця катастрофа Muse — це ще одна труба, оскільки ми на повній швидкості рухаємося вперед у неминучий апокаліпсис конфіденційності ШІ. У який момент уже пізно вирішувати цю проблему?
Якщо агенти вже ігнорують охорону, ми вже пройшли точку неповернення?
Ваша інформація – їхня справа
Мені здається, що найбільше мене вразило те, що Meta гарантує, що у вас немає можливості відмовитися. Незалежно від того, хто ви, Meta знайшла спосіб збирати вашу інформацію.
Пропонує завантажити Muse у WhatsApp, Instagram і просування Muse в iOS App Store
Ви ніколи не можете створити єдиний обліковий запис на службі Meta, їх багато, і ви все одно не в безпеці. Якщо ви поговорите з особою, яка встановила Muse, Meta потенційно зможе отримати доступ, прочитати, проаналізувати та завантажити цю інформацію до своїх служб.
І це момент, до якого я маю повернутися та зауважити, що це не лише проблема Meta. Я збираюся назвати Мету і присоромити її тут, тому що у нас є незліченна кількість прикладів, коли стрічка Мети та гумові захисні захисні пристрої вийшли з ладу.
Але будь-яка компанія, яка інвестує в штучний інтелект, хоче безперервного доступу до ваших даних. Неважливо, чи це Meta, OpenAI, Anthropic чи навіть Apple.
Великі технологічні компанії цього хочуть один чогось, і це гидко.
Я маю на увазі, що Apple Intelligence вже має доступ до таких речей, як повідомлення та пошта. Визначальною відмінністю тут є довіра. Apple Intelligence зараз намагається обробити більшість запитів на пристрої.
Це одна з головних причин, чому Apple Intelligence належить до найпотужніших чіпів Apple.
У випадку, якщо щось потрібно обробити поза пристроєм, Apple каже, що лише відповідні дані надсилаються в Private Cloud Compute.
Ми вступаємо в епоху, коли немає конфіденційності. Одного разу стандартна порада людям, які стурбовані цим, була: «Ну, якщо вам це не подобається, не використовуйте це.
Але це вас більше не захищає. Muse може отримати доступ до вашої інформації через інших людей робити використання Apple зробила Apple Intelligence необов’язковою для відповідних пристроїв.
Ось і все, шановний читачу. Ти більше не можеш здаватися.
