La implementación de un sistema de reconocimiento facial fue presentada como un gran avance en materia de seguridad. Sin embargo, su eficiencia no está demostrada y su uso implica riesgos de filtraciones y violaciones al derecho a la privacidad.
12 de junio de 2019
A principios de abril el Ejecutivo porteño, a través de su vicejefe de Gobierno, Diego Santilli, anunció la implementación de un sistema de reconocimiento informático capaz de detectar a personas con pedido de captura: «En febrero agarramos a un tipo que tenía diez años de condena por secuestrar personas. Lo que quiere la sociedad es que los agarremos», declaró el funcionario.
El anuncio, comunicado a la prensa sin debate legislativo o social previo, coloca en la arena pública dos cuestiones que parecen generar un consenso indiscutible: primero, la «seguridad», una palabra simple que suele ser desenvainada cada vez que se necesita simplificar un problema de alta complejidad y resistente a análisis unidimensionales. La otra palabra es «tecnología», embebida de un aura de eficiencia y neutralidad que en la práctica pocas veces se da. ¿Quién podría negarse a la seguridad garantizada, además, por la tecnología?
El software de reconocimiento facial registra ciertos patrones únicos en un rostro y los contrasta con una base de datos con parámetros de otras caras almacenadas, como hacen automáticamente algunas redes sociales. La propuesta del Gobierno porteño es ubicar cámaras en varios puntos de la ciudad para que el software comprado analice a los transeúntes y los compare con fotografías de los cerca de 40.000 prófugos de todo el país.
Encontrar y arrestar personas condenadas parece una idea simple e incuestionable. Sin embargo, como suele ocurrir, la realidad es bastante más compleja. En primer lugar, la tecnología aún no es totalmente confiable. Un test del sistema Rekognition, de Amazon, realizado por la Asociación Americana de Libertades Civiles (ACLU), de los EE.UU., encontró que manejaba un margen de error del 20%, porcentaje que se elevaba al 39% en el caso de las personas de color. Ese sistema fue implementado por departamentos de policía de ese país, provocando numerosas detenciones injustificadas: personas que circulan por la calle sin haber cometido ningún delito son interceptadas y deben demostrar su inocencia, al revés de lo que indica la Constitución.
Se podría argumentar que el software mejorará y cumplirá con su objetivo, pero hay otros problemas. El Gobierno de la ciudad no dio detalles vitales del sistema como su nombre, antecedentes, características técnicas, ciudades en las que fue implementado, resultados obtenidos o costos. Sin esos datos es muy difícil evaluar seriamente su eficacia y menos determinar si se justifica monitorear a toda la población. Para conocer esos detalles, la Asociación por los Derechos Civiles (ADC) hizo un pedido de informes (ver recuadro). La opacidad de esta implementación se contradice con la política promocionada por las autoridades sobre transparencia y gobierno abierto.
Sin certezas
Un tercer problema es que las cámaras, según se supo en la campaña de prensa, están ubicadas en las estaciones de subte, por lo que cualquier prófugo simplemente debería evitar ese medio de transporte para no ser detectado. Esta característica recuerda otros sistemas, como los carteles que exhiben las patentes de los autos que circulan por algunas calles porteñas: si el objetivo es detectar vehículos denunciados, parecería sensato no exhibir el monitoreo.
Un cuarto problema es que, una vez recopilados, los datos pueden contrastarse fácilmente con otras bases de datos como la del Registro Nacional de las Personas, donde se encuentra información de todos los ciudadanos. La licenciada en Comunicación Social y magíster en Propiedad Intelectual, Beatriz Busaniche, presidenta de la Fundación Vía Libre, explicaba en una entrevista para CNN: «La resolución publicada sobre este tema establece que no solo se va a buscar a las personas que tienen pedido de captura, sino que también tendrá otros fines. Entonces queda abierto: no sabemos para qué va a ser utilizado en el futuro y la regulación no lo establece. Lo deja a discreción de las autoridades». La falta de certezas resulta preocupante por los antecedentes de negligencia en el cuidado de los datos por parte del GCBA y por casos de policías que utilizaban herramientas técnicas poco protegidas para cuestiones personales como el seguimiento de una expareja. Otro riesgo es la tentación de copiar y vender la información: «Una base de datos biométricos es muy valiosa en el mercado y que los ciudadanos no sepamos cómo se custodian es un tema de preocupación», resumía Busaniche. El sistema, una vez instalado, queda en manos de los sucesivos gobiernos, que podrían caer en la tentación de ampliar su uso. Y si los mecanismos de seguridad están previstos, ¿por qué no darlos a conocer?
El libro de Natalia Zuazo, Guerras de internet, explica que no existen evidencias claras en el mundo sobre el impacto del uso de cámaras de vigilancia en la disminución o erradicación del delito. Entonces, ¿por qué su implementación se aprueba casi automáticamente? La investigadora da al menos dos razones: por un lado, los funcionarios en campaña pueden así mostrar los videos en TV y generar la sensación de que se reduce el crimen, aunque su impacto estadístico sea insignificante; en segundo lugar, porque estas implementaciones implican contratos millonarios para empresas con gran poder de lobby.
Pero posiblemente la tendencia global a monitorear a la población no pasa tanto porque la gente sea vigilada como por que se «crea» vigilada: así se mide en su comportamiento y cada uno se transforma en policía de sí mismo. En países como China esa tendencia ha avanzado al punto de que distintos mecanismos de control del comportamiento se usan para alimentar un ranking social que puntúa a cada individuo. La necesidad de aumentar el control sobre la población habla también de una dificultad creciente para crear consensos más sólidos y para considerar a la seguridad como una cuestión no solo policial sino multidimensional, en la que oportunidades, inversión en educación, trabajo o respeto de la privacidad también tengan un lugar relevante.
