Kashmir Hill: “Rostro es el último bastión de la privacidad, por lo que el reconocimiento facial es peligroso” | Tecnología

El reportero de Kashmir Hill se enteró en noviembre de 2019 de que una startup llamada Clearview AI había decidido poder identificar a cualquier persona a partir de una imagen. Su fuente afirmó que la compañía había guardado miles de millones de fotografías de redes sociales como Facebook, Instagram o LinkedIn —sin avisar ni a las plataformas ni a los interesados—, y que si presentas la foto de alguien en la aplicación, se mostrarán todas. sitios web en los que aparece una persona, junto con su nombre completo e información personal.

Nadie solía emprender el incomparable viaje hasta la fecha prevista. Una aplicación capaz de identificar a un extraño era excesiva. Puedes usarlo, por ejemplo, para fotografiar a alguien en un bar y saber rápidamente dónde vive y quiénes son sus amigos. colina, periodista Los New York Times, publicó la historia de esta pequeña empresa, que en pocos meses fue un descubrimiento total por parte del apóstol Peter Thiel, uno de los padres de Silicon Valley, que se convirtió en objeto de deseo de las fuerzas policiales de EE. UU. UU y en el extranjero. Le pasó a Hoan Ton-That, el inescrutable ingeniero responsable de la herramienta, montada junto a Richard Schwartz, un político de gran trayectoria entre los jóvenes del Partido Republicano. Tu investigación ha terminado hasta la forma de tu libro. Tu cara nos pertenece (Te preocupas por nuestro negociopublicado por Random House en 2023 y sin traducción al español hasta ahora).

“Creo que los fundadores de la comenzar Son personajes inusuales y fascinantes, y la historia captura algo esencial en esta industria: este deseo de crear nuevas tecnologías que sean verdaderamente transferibles sin considerar sus implicaciones sociales”, explicó por videoconferencia desde Nueva York. Tiene 43 años y creció en Kashmir Hill de Florida, donde recibió su nombre de uno de los temas más famosos de Led Zeppelin, trabajando en publicaciones como Gizmodo, Forbes oh El neoyorquino antes de la universidad Veces en 2019. También se ha llamado la atención sobre el hecho de que la empresa de un joven podría en algún momento dominar la tecnología que complementa el reconocimiento facial.

PREGUNTA. ¿Qué tenéis en particular para los sistemas de reconocimiento facial automático? ¿Por qué te interesa esta tecnología?

RESPUESTA. Ésta es la clave para ganarse a la gente real del mundo que los conoce a través de Internet. El uso incontrolado del reconocimiento facial borra el anonimato, ya no se puede navegar por el mundo sin que la gente sepa todo sobre nosotros. Los sabrían gobiernos dónde estamos y eso lo hicimos todo el tiempo. Eso es lo que triunfas en China. Rusia lo utiliza para identificar a quienes protestan por la invasión de Ucrania. El Rostro es esencialmente el último bastión de la privacidad. En dirección a China, ha elaborado una lista roja para todos aquellos que puedan hacerlo y no quieran verlos. Esta lista significa que es invisible para el sistema de vigilancia, lo que elimina los registros de las cámaras. Es muy revelador que nadie mira al mar, privilegio exclusivo de los poderosos.

PAG. ¿Por qué la historia de Clearview AI es representativa del reconocimiento facial?

A. Sí. La tecnología de reconocimiento facial es un arma de doble filo. Podrás utilizarlo para resolver crímenes, encontrarte con delincuentes e infractores, pero también para localizar a disidentes o para obtener información sobre actrices porno y guiarlas hasta ellas. Los fundadores de Clearview AI tienen algunas ideas muy preocupantes sobre lo que quieren hacer con esta herramienta. Creo que analizando la imagen de una persona podemos deducir su inteligencia o su propensión al consumo de drogas. Trabajó con Hungría, que buscaba su producto para perseguir a los activistas e identificar a los liberales. Entonces, con todo sentimiento, esto es un tranquilizante para el último trabajo en solitario con la policía.

En China el anonimato es privilegio exclusivo de los poderosos

PAG. Clearview AI ahora está prohibido en varios países. ¿Cuál es tu situación actual?

A. Continuar operando en los Estados Unidos. Trabaja con muchas agencias policiales locales, así como con el Departamento de Seguridad Nacional y el FBI. Es algo que cuenta con asistencia legal, pero hemos tenido cierto éxito, ya que un tribunal del Reino Unido anuló sólo una cosa que el regulador había impuesto. En última instancia, quienquiera que decidiera centrarse exclusivamente en la aplicación de la ley evitó muchos resultados negativos. Estamos convencidos de que hemos entrado en los países europeos más grandes.

PAG. ¿Por qué el auge de la inteligencia artificial (IA) generativa ha servido como fuente de combustible para la expansión de empresas como Clearview AI?

A. La gente está muy centrada en la IA generativa, y por eso ha llamado la atención, tanto por la forma como por esta tecnología que mejora su privacidad. Pero, en general, las preocupaciones son las mismas. el New York Times, donde trabaja, le pedí a OpenAI que usara todos nuestros artículos sin permiso. De forma similar, la base de datos de Clearview AI se compone de decenas de kilómetros de millones de imágenes de nuestras víctimas de Internet sin nuestro consentimiento. Me preocupa mucho el reconocimiento facial combinado con la IA generativa. Puedes generar una imagen de alguien en una imagen pornográfica o en algún tipo de situación embarazosa y simplemente publicarla, sabiendo que alguien más buscará a esa persona con una herramienta de reconocimiento facial y la encontrará. Escriba el libro porque aquellos que quieran entender qué es capaz de ver la tecnología de reconocimiento facial. Ahora es realmente trivial identificar a alguien y encontrar todas sus fotos en Internet. Y esto implica muchas preocupaciones para el futuro.

PAG. ¿Cuál es la percepción social del reconocimiento facial en la UE?

A. Existe una resistencia real al uso de la tecnología de reconocimiento facial en vivo. Los legisladores han decidido retomar la idea de buscar personas en tiempo real en las calles, algo que les sucederá, por ejemplo, en el Reino Unido. Al mismo tiempo, creo que la mayoría acepta utilizar esta tecnología después de haber creado un delito para identificar al culpable.

PAG. ¿Cómo es posible que una empresa que basa su negocio en un producto creado a partir de descargas sin el consentimiento de millones de fotógrafos humanos de escritorio pueda operar como si nada?

A. Cuando escribiste por primera vez sobre Clearview AI, tenías 3000 millones de fotos. Una vez terminado el libro, ganó 20.000 millones. Ahora tengo 40.000. Hay países que dicen que lo que se está haciendo es ilegal. No es necesario copiar fotografías de personas sin su consentimiento, pero no dude en copiarlas. Tenemos un precedente, porque esa ilegalidad no está clara. Lo estamos haciendo con IA generativa: ¿quién debería permitir que estas empresas reúnan lo que quieran y lo utilicen para ganar dinero? Creo que ésta es una de las cuestiones más importantes de nuestro tiempo.

Eric Schmidt, presidente de Google en 2011, dijo que el reconocimiento facial era la única tecnología que su empresa había desarrollado y no había lanzado.

PAG. Vea en el libro que Google y Facebook tienen su propia tecnología de reconocimiento facial y la lanzaron antes que Clearview AI, pero deciden no hacerlo.

A. De verdad, estoy muy sorprendida. Sus empresas han sido objeto de un intenso escrutinio por posibles abusos de privacidad y es por eso que tienen más seguridad. También pensé que me preocupaba la tecnología en sí. Nuestros ingenieros se alarman y se aseguran de que se revele algo. Eric Schmidt, presidente de Google en 2011, dijo que el reconocimiento facial era la única tecnología que su empresa había desarrollado y no había lanzado. Me pareció interesante, por ejemplo, poder hacer esto ahora con IA generativa: Google tiene su propio ChatGPT, pero creo que el mundo hoy no está preparado para esto.

PAG. ¿Por qué vamos a tener una sociedad hipervigilada?

A. Vivimos en un mundo donde hay cámaras para todas las partes, pero no existen sistemas de reconocimiento facial. Creo que Europa está teniendo este debate ahora: si estás a salvo en la casa de tu hijo o si eres un fugitivo del sur, ¿podemos encontrarnos en tiempo real? Una vez que haya configurado este marco, hay muchas otras formas que puede utilizar. Creemos que podemos decidir, si lo permitimos, si este es un mundo en el que acudimos a la persona de todo el tiempo, cada vez que saludamos a nuestros hogares. Sí, es una decisión que hay que tomar hoy.

Puedes etiquetar a alguien y encontrar todas tus fotos en Internet con muchas inquietudes de futuro.

PAG. ¿Cómo trazamos la línea entre aquellos que se utilizan adecuadamente y aquellos que no tienen un reconocimiento facial adecuado?

A. Creo que un elemento importante hoy es lo retroactivo frente a lo proactivo. ¿Qué hacemos para resolver un delito que has cometido o para abordar la prevención de delitos o conocer gente en tiempo real? Es una gran brecha, en eso estamos ahora en camino. Otro punto clave es la seguridad. En Estados Unidos, si eres policía, puedes utilizar el reconocimiento facial para resolver crímenes. Si tiene una empresa, puede utilizarlo para identificar clientes y expulsarlos. Lo que hace que la gente esté contenta con sus aplicaciones relacionadas con la seguridad.

PAG. ¿Por qué la población se adaptará y tolerará esta tecnología?

A. Intentaremos analizar diferentes casos de uso y ver cuáles funcionan para usted. Tuvo un gran impacto cuando los abogados de marcas que los clientes habituales detuvieron en la puerta del Madison Square Garden. La gente se está dando cuenta de que el reconocimiento facial se puede utilizar de forma alarmante. Tengo un tiempo para ingresar llamadas telefónicas desde Casa Blanca. Véase con todas estas caricaturas de Richard Nixon en sus aviones para Watergate. Esto provocó alarma social y se aprobaron leyes que ilegalizan los auriculares telefónicos, excepto aquellos sujetos a orden judicial. Por lo tanto, las cámaras de vigilancia solo capturan video y audio: entonces decidimos que no queremos vivir en un mundo de todo lo que queremos capturar. Creo que lo pasaré con nuestras almas.

Puedes seguir un EL PAÍS Tecnología fr. Facebook Sí X o haga clic aquí para recibir el nuestro boletín semanal.

_