Стрімке впровадження технологій спостереження на базі штучного інтелекту (ШІ) у США опинилося під прицілом пильної уваги через занепокоєння щодо конфіденційності та точності систем. Flock Safety, постачальник безпекових рішень, що інтегрує автоматичне розпізнавання номерних знаків (ALPR) та акустичні датчики, на думку експертів, має критичні недоліки, які можуть загрожувати цивільним правам громадян.
Головною проблемою, що постає, є надмірна залежність правоохоронних органів від цифрових даних. У низці випадків було зафіксовано помилкову ідентифікацію або неправомірні арешти через неточні дані системи, наприклад, коли звукові датчики помилково сприймали феєрверки за постріли. Це явище створює зміну правової парадигми, за якої тягар доведення невинуватості фактично перекладається на плечі обвинуваченого громадянина, замість дотримання принципу презумпції невинуватості.
Позиція розробників лише ускладнює ситуацію. Генеральний директор Flock Safety Гарретт Ленглі викликав хвилю обурення своїми заявами, які виглядали як намагання зняти з себе відповідальність за використання даних поліцією після передачі системи. Такий підхід, що розцінюється як ігнорування підзвітності, підштовхнув суспільство до вимог суворішої прозорості.
У відповідь на це різні групи громадянського суспільства почали самостійно картографувати розташування камер спостереження для захисту публічної конфіденційності. Тим часом повідомляється, що деякі округи почали переглядати свої контракти з Flock Safety через ризики вразливості безпеки та потенційне зловживання даними на міжштатному рівні.
Загалом ця технологія є палицею з двома кінцями, яка потребує більш зрілого регулювання. Без суворих стандартів точності та чітких механізмів відповідальності для постачальників технологій, інтеграція ШІ в системи публічного спостереження ризикує принести в жертву індивідуальні свободи заради обіцянки безпеки, яка ще не була повністю перевірена.
