En enero de 2020, Robert Williams pasó 30 horas en una cárcel de Detroit porque la tecnología de reconocimiento facial sugería que era un criminal. El partido fue falso y el señor Williams emprendió acciones legales.
El viernes, como parte de un acuerdo legal por su arresto injusto, Williams obtuvo el compromiso de la policía de Detroit de hacerlo mejor. La ciudad adoptó nuevas reglas para el uso policial de la tecnología de reconocimiento facial que, según la Unión Estadounidense de Libertades Civiles, que representó a Williams, debería ser el nuevo estándar nacional.
“Esperamos que esto impulse las cosas en la dirección correcta”, afirmó Williams.
El Sr. Williams fue la primera persona conocida arrestada injustamente debido a un reconocimiento facial defectuoso. Pero él no fue el último. La policía de Detroit arrestó al menos a otras dos personas luego de que las búsquedas de reconocimiento facial salieran mal, incluida una mujer acusada de robo de auto mientras estaba embarazada de ocho meses.
Los organismos encargados de hacer cumplir la ley en todo el país están utilizando tecnología de reconocimiento facial para tratar de identificar a los delincuentes cuyas fechorías son captadas por la cámara. En Michigan, el software compara un rostro desconocido con aquellos que figuran en una base de datos de fotografías policiales o de licencias de conducir. En otras jurisdicciones, la policía utiliza herramientas, como Clearview AI, que busca fotografías recuperadas de sitios de redes sociales y de la Internet pública.
Una de las nuevas reglas más importantes adoptadas en Detroit es que las imágenes de personas identificadas mediante tecnología de reconocimiento facial ya no se pueden mostrar a un testigo durante una sesión fotográfica, a menos que exista otra evidencia que las vincule con el crimen.
“El sistema de 'tomar una fotografía y ponerla en una alineación' va a terminar”, dijo Phil Mayor, abogado de la ACLU de Michigan. “Con este acuerdo, el Departamento de Policía de Detroit pasa de ser el usuario indebido mejor documentado de la tecnología de reconocimiento facial a convertirse en un líder nacional en la protección de su uso. »
La policía dice que la tecnología de reconocimiento facial es una herramienta poderosa para ayudar a resolver delitos, pero algunas ciudades y estados, incluidos San Francisco, Austin, Texas y Portland, Oregon, han prohibido temporalmente su uso debido a preocupaciones sobre la privacidad y los prejuicios raciales. Stephen Lamoreaux, director de tecnología de la información de la unidad de inteligencia criminal de Detroit, dijo que el departamento de policía está “muy ansioso por utilizar la tecnología de manera significativa para la seguridad pública”. Detroit, dijo, tiene “la política más fuerte del país en este momento”.
¿Cómo va mal?
Williams fue arrestado después de un delito en 2018. Un hombre robó cinco relojes de una tienda en el centro de Detroit mientras era filmado con una cámara de vigilancia. Una empresa de prevención de pérdidas proporcionó las imágenes al Departamento de Policía de Detroit.
Una búsqueda del rostro del hombre en comparación con fotografías de la licencia de conducir y fotografías policiales produjo 243 fotografías, clasificadas en orden de confianza del sistema de que era la misma persona en el video de vigilancia, según los documentos revelados en el juicio del Sr. Williams. Una antigua fotografía del Sr. Williams tomada de una licencia de conducir ocupaba el noveno lugar en la lista. La persona que realizó la búsqueda lo consideró el mejor candidato y envió un informe a un detective de la policía de Detroit.
El detective incluyó la foto del Sr. Williams en una “matriz de fotografías de seis personas” (fotos de seis personas en una cuadrícula) que mostró a la compañía de seguridad que proporcionó el video de vigilancia de la tienda. Ella estuvo de acuerdo en que el Sr. Williams era la persona más cercana al hombre en la tienda, lo que dio lugar a la orden de arresto. Williams, que estaba en su escritorio en una empresa de suministros para automóviles cuando robaron los relojes, pasó la noche en la cárcel y le tomaron las huellas dactilares y el ADN. Fue acusado de fraude minorista y tuvo que contratar a un abogado para defenderse. Los fiscales finalmente abandonaron el caso.
Demandó a Detroit en 2021 con la esperanza de imponer una prohibición a la tecnología para que otros no sufrieran su suerte. Dijo que se molestó el año pasado cuando se enteró de que la policía de Detroit había acusado a Porcha Woodruff de robo de auto y hurto después de una mala coincidencia de reconocimiento facial. La policía arrestó a la Sra. Woodruff mientras preparaba a sus hijos para la escuela. Ella también demandó a la ciudad; el juicio está en curso.
“Es muy peligroso”, dijo Williams, refiriéndose a la tecnología de reconocimiento facial. “No veo ningún beneficio positivo”.
las nuevas reglas
La policía de Detroit es responsable de tres de los siete casos conocidos en los que el reconocimiento facial condujo a un arresto injusto. (Los otros estaban en Luisiana, Nueva Jersey, Maryland y Texas). Pero los funcionarios de Detroit dijeron que los nuevos controles evitarían más abusos. Y siguen siendo optimistas sobre el potencial de la tecnología para resolver delitos, que ahora utilizan sólo en casos de delitos graves, incluidos asaltos, asesinatos e allanamientos de viviendas.
James White, jefe de policía de Detroit, atribuyó los arrestos injustificados a un “error humano”. Sus oficiales, dijo, dependían demasiado de pistas producidas por la tecnología. Fue su juicio el que estaba equivocado, no el de la máquina.
La nueva política, que entra en vigor este mes, está destinada a ayudar con eso. Según las nuevas reglas, la policía ya no puede mostrar el rostro de una persona a un testigo basándose únicamente en una coincidencia de reconocimiento facial.
“Tiene que haber algún tipo de evidencia secundaria que lo corrobore antes de que haya suficiente justificación para ir a la cola”, dijo Sr. Lamoreaux, de la unidad de inteligencia criminal de Detroit. La policía necesitaría información sobre la ubicación de una persona desde el teléfono, por ejemplo, o pruebas de ADN, algo más que un simple parecido físico.
El departamento también está cambiando la forma en que realiza identificaciones con fotografía. Adopta lo que se llama identificación secuencial doble ciego, considerada una forma más justa de identificar a una persona. En lugar de presentarle un “six-pack” a un testigo, un oficial –que no sabe quién es el principal sospechoso– presenta las fotos una por una. Y la identificación incluye una foto de la persona diferente a la que mostró el sistema de reconocimiento facial.
La policía también tendrá que revelar que se realizó un registro facial, así como la calidad de la imagen del rostro registrado. ¿Qué tan granulada era la cámara de vigilancia? ¿Qué tan visible es la cara del sospechoso? — porque es menos probable que una imagen de mala calidad produzca resultados confiables. También deberán revelar la antigüedad de la foto revelada por el sistema automatizado y si había otras fotos de la persona en la base de datos que no coincidieran.
Franklin Hayes, subjefe de policía de Detroit, dijo que confía en que las nuevas prácticas evitarán futuras identificaciones erróneas.
“Todavía hay algunas cosas que podrían salir mal, por ejemplo, los gemelos idénticos”, dijo Hayes. “Nunca podremos decir nunca, pero creemos que esta es nuestra mejor política hasta el momento”. »
Arun Ross, profesor de informática en la Universidad Estatal de Michigan y experto en tecnología de reconocimiento facial, dijo que la política de Detroit es un excelente punto de partida y que otras agencias deberían adoptarla.
“No queremos pisotear los derechos y la privacidad de las personas, pero tampoco queremos que la delincuencia sea rampante”, afirmó Ross.
¿Cuánto ayuda esto?
La identificación de testigos presenciales es una tarea difícil y la policía ha adoptado cámaras y reconocimiento facial como herramientas más confiables que la memoria humana imperfecta.
El año pasado, el Jefe White dijo a los legisladores locales que la tecnología de reconocimiento facial había ayudado a “sacar a 16 asesinos de las calles”. Cuando se les pidió más información, los funcionarios del departamento de policía no proporcionaron detalles sobre estos casos.
En cambio, para demostrar los éxitos del departamento con la tecnología, los agentes de policía publicaron un vídeo de vigilancia de un hombre que arrojaba combustible dentro de una gasolinera y provocaba el incendio. Dijeron que fue identificado mediante tecnología de reconocimiento facial y arrestado esa noche. Posteriormente se declaró culpable.
El Departamento de Policía de Detroit es uno de los pocos que controla su investigación de reconocimiento facial y presenta informes semanales sobre su uso a un comité de supervisión. En los últimos años, ha realizado un promedio de más de 100 búsquedas por año, de las cuales aproximadamente la mitad arrojaron coincidencias potenciales.
El ministerio sólo considera la frecuencia con la que obtiene una pista, no si esa pista se materializa. Pero como parte de su acuerdo con Williams, quien también recibió $300,000, según un portavoz de la policía, debe realizar una auditoría de sus búsquedas de reconocimiento facial que se remontan a cuando comenzó a usar esta tecnología en 2017. Si identifica otros casos en los que personas han sido arrestadas con poca o ninguna otra evidencia de respaldo más allá de una coincidencia facial, se supone que el departamento debe alertar al fiscal correspondiente.
Molly Kleinman, directora de un centro de investigación tecnológica de la Universidad de Michigan, dijo que las nuevas protecciones parecían prometedoras, pero seguía siendo escéptica.
“Detroit es una ciudad extraordinariamente vigilada. Hay cámaras por todas partes”, dijo. “Si toda esta tecnología de vigilancia realmente hiciera lo que dice hacer, Detroit sería una de las ciudades más seguras del país”.
Willie Burton, miembro de la Junta de Comisionados de Policía, grupo de vigilancia que aprobó las nuevas políticas, las describió como “un paso en la dirección correcta”, aunque todavía se opone al uso de la tecnología de reconocimiento facial por parte de la policía.
“La tecnología aún no está disponible”, afirmó Burton. “Un arresto falso es demasiado, y el hecho de que haya tres en Detroit debería hacer saltar las alarmas y poner fin a esta práctica”. »