Невдовзі після 11 вересня уряд США прийняв Патріотичний акт із мудрою назвою. Ви порядна, самовпевнена душа, яка любить Америку і ненавидить тих, хто ненавидить вас? Більшість американців з ентузіазмом кивнули і відповіли ствердно. Громадяни прийняли федеральне прослуховування телефонних розмов і фінансовий моніторинг як розумний компроміс для національної безпеки.
Протягом наступних двох десятиліть місцеві відділи поліції почали використовувати зчитувачі номерних знаків. Приватні компанії підхопили шаленство і заклали під’їзди передмістя інтернет-відеодзвінками. Стадні камери тепер перетворюють прості поїздки на величезну базу даних відстеження. А той хлопець, що сидить навпроти вас у метро? Ймовірно, він носить окуляри Meta, знімає вас на відео без вашого дозволу і робить бог знає що з цими кадрами.
Якщо це може статися в Техасі, це може статися будь-де в Америці.
Справи погані, але, як казала моя бабуся, коли ти думаєш, що досяг дна, завжди пам’ятай, що в пеклі є підвал.
Він мав рацію.
У Далласі міська влада нещодавно співпрацювала з технологічною компанією під назвою City Detect, щоб встановити камери зі штучним інтелектом на звичайних сміттєвозах. Коли вантажівки проїжджають через житлові квартали, камери високої чіткості знімають будинки, дороги та двори. Потім алгоритми сканують зображення на наявність можливих порушень, від зайвої трави та плям кори до пошкоджень конструкції та викинутого сміття. Китай надає громадянам соціальний кредитний бал. Тепер у Далласа є щось, що звучить зловісно: “погані результати”. Щоб було зрозуміло, жителів Далласа не судять за політичною прихильністю чи дозволом їм купувати квитки на літак. Але основна ідея неймовірно схожа. Технологія збирає дані про звичайних людей, потім аналізує їх і перетворює те, що бачить камера, на точки даних, які можуть привернути увагу влади.
І тут вступає в дію правовий захист публічного стеження. Традиційний аргумент простий. Якщо щось видно з дороги загального користування, ви не очікуєте приватності. Поліцейський чи інспектор, який стоїть на громадському тротуарі, може годинами дивитися на ваше подвір’я без ордера. City Detect базується саме на цьому принципі. Компанія каже, що її програмне забезпечення автоматично розмиває обличчя та номерні знаки людей перед збереженням зображень. Іншими словами, ви можете не бути особою в базі даних, але ваш будинок, під’їзд, двір і майно все одно можна сфотографувати, проаналізувати та позначити.
Це розрізнення може задовольнити юристів, але воно не задовольняє і не обов’язково повинно задовольняти громадян.
Проблема контролю
Впровадження безперервного стеження за допомогою штучного інтелекту по всьому місту докорінно змінить спосіб роботи місцевої влади.
Ця динаміка змінює традиційні відносини між громадянами та правоохоронними органами. Протягом всієї американської історії урядові розслідування вимагали або попередньої підозри, або офіційної скарги, перш ніж розпочати розслідування. Автоматичні камери сміттєвозів змінюють цю послідовність, піддаючи кожного власника майна активній та систематичній фотозйомці. Алгоритм спочатку оцінює фізичний стан приватного будинку, а потім місто видає попередження. Жителі Далласа тепер отримують автоматичні сповіщення про стан їхнього майна, при цьому інспектор ніколи не ступає на їхній поверх.
Це прямий результат індустріалізації малого адміністративного контролю. Органи місцевого самоврядування закуповують ключові системи контролю у приватних постачальників, оскільки автоматизоване забезпечення забезпечує передбачуваний дохід, одночасно знижуючи витрати на робочу силу. Міста можуть представляти ці системи як прості адміністративні інструменти, але коли існує технологія для безперервного сканування всього міста, її використання може легко розширитися за межі початкової мети.
ІНФОРМАЦІЯ. Ці популярні маршрутизатори Wi-Fi можуть виявляти рух у вашому домі
Яременко/Getty Images
І якщо це може статися в Техасі, нібито консервативному штаті, який пишається індивідуальною свободою, це може статися будь-де в Америці.
City Detect наполягає на тому, що його база даних залишається окремою від мереж правоохоронних органів і що приватні компанії зберігають право власності на операційні алгоритми. Жодна здорова людина не повинна вірити цим обіцянкам. Запити на публічні документи та корпоративні партнерства регулярно усувають розрив між муніципальними документами та доступом правоохоронних органів. Коли зображення приватного під’їзду з високою роздільною здатністю зберігається на хмарному сервері, юридичні бар’єри, які обмежують доступ для правоохоронних органів, платників податків або цивільних позивачів, можуть швидко зникнути.
Наступний удар
Основний ризик локального алгоритмічного моніторингу полягає в його майбутніх можливостях. Великий Брат схожий на державний борг; він ніколи не стає меншим, він просто стає більшим.
Програмне забезпечення, встановлене сьогодні у сміттєвозах, виявляє бур’яни, викинуті матраци та викинуте сміття. Удосконалені моделі можуть легше виявляти незначні фізичні зміни з часом. Ідея про те, що схеми паркування під’їзних доріг і добудови будинків можуть бути зафіксовані в не дуже віддаленому майбутньому, може здатися абсурдною, але це не обов’язково.
Сьогодні державі спостереження більше не потрібні спеціальні федеральні агенти чи таємні пункти прослуховування для моніторингу повсякденного життя. Ви живете в країні, де всі все знають і мають інформаційну базу на порозі. Це заважає і дратує. Але, мабуть, найбільш тривожним аспектом є те, наскільки важко буде повернути джина назад у пляшку. Коли керівники розуміють, що можуть дивитися будь-що, чому вони вирішують дивитися менше?
