"Reconocimiento facial: nueva polémica en la Ciudad", por Werner Pertot

Parece haber polémicas recurrentes en la Ciudad. Hace unos años, cuando gobernaba Horacio Rodríguez Larreta, se armó una larga y espinosa discusión judicial por el sistema de reconocimiento facial para prófugos, que generaba falsos positivos y que era cuestionado a nivel global por su sesgo racial. El sistema fue suspendido por la Justicia. Pero ya años más tarde, la fiscalía general contrató otro software que también viene de tener problemas en el primer mundo, en este caso porque se apropia para su base de datos de miles de fotografías disponibles en redes sociales. ¿Una nueva polémica en puerta?

Nos enteramos de esta nueva contratación por una buena investigación de Mauricio Caminos en DiarioAr. Allí, informa que el sistema de reconocimiento facial privado que contrató el Ministerio Público Fiscal, bajo el comando de Juan Mahiques, viene con una nueva polémica instalada: utiliza fotos de redes sociales (60 mil millones de imágenes faciales, según su web), lo que despertó ya discusiones entre expertos en informática y organismos de derechos humanos. Se lo contrató en una licitación por U$S 27.588 durante 12 meses.

La empresita que lo trajo se llama Clearview AI y –según nos cuenta el colega Caminos- ya tuvo problemas en América del Norte y Europa –incluso con multas y penalidades de las autoridades gubernamentales. De hecho, existe la sospecha de que se vinieron para acá buscando nuevos mercados. Acá los distribuye una firma avesada en los contratos estatales, de nombre VEC S.R.L. Entre sus socios aparece Federico Heuser. Su descripción en LinkedIn indica que “VEC importa, distribuye e instala, llave en mano, equipamientos para comunicaciones, radiofrecuencia, energía y soluciones de control críticos para la defensa, aeronavegación y otras aplicaciones similares. Las aplicaciones de estos sistemas incluyen la transmisión de señales de radar, de radionavegación, de localización y señalización; de transmisión y amplificación de voz, datos y vídeo para la radiodifusión, Internet y otros tipos de comunicaciones comerciales y militares”.

Desde la fiscalía general se atajan y advierten que el software que contrataron no es de uso generalizado “ni para tareas de inteligencia sino que sólo se puede utilizar en el marco de una investigación penal bajo el estricto pedido de un Fiscal. Lo que la herramienta ofrece es acortar pasos para rastrear en imágenes públicas de internet, es decir que las imágenes ya fueron compartidas previamente por otro usuario y están disponibles de manera online”.

Del otro lado, dudan: “La empresa se apropia de las imágenes que están en internet como si fuera una base de datos propia. Se dice que son imágenes ya compartidas, pero uno no sube fotos a sus redes para que se utilicen en una base para comparar con posibles delincuentes”, dijo Manuel Tufró, director del área de Justicia y Seguridad del CELS.

Tanto el CELS como otras ONG iniciaron una causa hace años contra el uso de otro sistema de reconocimiento facial que –se suponía- era solo para encontrar prófugos, pero que se había utilizado para hacer un seguimiento de dirigentes políticos, empresarios, etc. De hecho, tendría que haber operado sobre unos 40 mil registros, desde la Ciudad se hicieron más de 9 millones de consultas a la base del Registro Nacional de las Personas. Entre los que aparecían en esas consultas había un montón de no prófugo como el entonces presidente Alberto Fernández, Cristina Fernández de Kirchner, Patricia Bullrich y la diputada Myriam Bregman (FIT); dirigentes sociales como Juan Grabois y de Derechos Humanos como Estela De Carlotto y Hebe de Bonafini; empresarios como Marcos Galperín (Mercado Libre) y Hugo Sigman (Insud); funcionarios judiciales como el juez de la Corte Suprema Carlos Rosenkrantz y la fiscal Gabriela Boquin; y periodistas como Gustavo Sylvestre y Eduardo Feinmann, entre otros.

Esto se descubrió en una causa del juez Andrés Gallardo en la que suspendió el uso del sistema. La investigación sobre por qué estaban ingresadas personas que no estaban prófugas nunca avanzó. En su momento, el que cuestionó ese sistema fue Javier Milei (en guerra con Larreta).

Hace poco, la Cámara de Apelaciones de la Ciudad confirmó la inconstitucionalidad del sistema dado que “se gestionó fuera de la norma que lo regula y sin mecanismo de control”. De esta forma, rechazó una apelación del Gobierno porteño, que sigue intentando usarlo. Había costado con Larreta 2.300.000 pesos (por 17 meses de licencia) y apenas se implementó generó una cantidad importante de falsos positivos (personas que fueron detenidas o demoradas y no eran). Además de la pérdida de libertades y del derecho a la privacidad que implica, a nivel internacional advierten que con este sistema los errores son más frecuentes en mujeres y en personas de piel negra.

¿Cuál es el sentido de insistir con sistemas que venden Minority report pero solo trae problemas? Para alguien, esto sigue siendo negocio.