La rápida adopción de tecnologías de vigilancia basadas en inteligencia artificial (IA) en los Estados Unidos está ahora bajo una estrecha lupa tras el surgimiento de diversas preocupaciones respecto a la privacidad y la precisión de los sistemas. Se considera que Flock Safety, un proveedor de soluciones de seguridad que integra el reconocimiento automático de matrículas (ALPR) y sensores acústicos, presenta fallas críticas que podrían vulnerar los derechos civiles de los ciudadanos.

El principal problema que se plantea es la excesiva dependencia de las fuerzas del orden de los datos digitales. Varios casos registran errores de identificación o arrestos erróneos debido a datos inexactos del sistema, como sensores de sonido que confunden fuegos artificiales con disparos. Este fenómeno crea un cambio en el paradigma legal, donde la carga de la prueba parece trasladarse a los hombros del ciudadano acusado, en lugar de priorizar el principio de presunción de inocencia.

La postura de los desarrolladores complica aún más el asunto. El director ejecutivo de Flock Safety, Garrett Langley, causó controversia con declaraciones que parecían deslindar responsabilidades sobre el uso de los datos por parte de las agencias policiales una vez entregado el sistema. Este enfoque, considerado una falta de rendición de cuentas, ha desatado demandas de mayor transparencia por parte del público.

Como respuesta, diversos grupos de la sociedad civil han comenzado a organizarse de manera independiente para mapear la ubicación de las cámaras de vigilancia con el fin de proteger la privacidad pública. Mientras tanto, se informa que varios distritos han comenzado a revisar sus contratos con Flock Safety debido a los riesgos de vulnerabilidad de seguridad y al potencial abuso de datos entre estados.

En general, esta tecnología es un arma de doble filo que requiere una regulación más madura. Sin estándares de precisión estrictos y mecanismos claros de responsabilidad para los proveedores de tecnología, la integración de la IA en los sistemas de vigilancia pública corre el riesgo de sacrificar las libertades individuales en aras de una promesa de seguridad que aún no ha sido plenamente probada.