A medida que crece la confianza mundial en la tecnología biométrica, también lo hace la oposición. El reconocimiento facial ya se está extendiendo por Japón, Suecia y Estados Unidos. Una medida que atenta contra los derechos fundamentales y la privacidad.
Entusiastas de los deportes que vayan a Tokio para los Juegos Olímpicos de 2020, tengan cuidado: Japón va a instalar cientos de miles de cámaras de reconocimiento facial para identificar a todo el mundo presente. pero Japón no está solo en la utilización de esta tecnología. Los niños de los colegios suecos son fotografiados para verificar la asistencia. China, por su parte, ya tiene 176 millones de cámaras de vigilancia facial y espera haber instalado un total de 450 millones para el próximo año. Lo que es más, muchas tiendas en EE UU dependen de las cámaras de reconocimiento facial para identificar —y a veces prohibir la entrada— a las personas condenadas por hurto. Los supermercados que quieren verificar que los consumidores tienen la edad suficiente para comprar cigarrillos y cerveza también las utilizan.
Eleanor J. Bader
Sí, suena como una reencarnación del Gran Hermano del siglo XXI, pero el software de reconocimiento facial ha estado en desarrollo desde los 60 y ahora es omnipresente. La tecnología cartografía los rasgos faciales de un individuo usando algoritmos matemáticos. Una vez almacenadas, estas imágenes, llamadas “huellas faciales”, pueden utilizarse para verificar la identidad de una persona. Se puede tomar las fotos utilizando drones así como cámaras más convencionales, desde una distancia de alrededor de 15 metros, lo que recibe críticas por poder tener un impacto aterrador en las protestas, asambleas y discursos públicos, ya que la gente que es grabada normalmente no tiene ni idea de que esto está ocurriendo.
El material también puede dar lugar a identificación errónea y, peor, falsas detenciones. De hecho, los oponentes de la biométrica denuncian que a menudo se identifica incorrectamente a la gente de color. Por ejemplo, un estudio que usaba el software Rekognition de Amazon llevó a que 28 congresistas de EE UU afroamericanos, incluido John Lewis [congresista de Georgia e histórico activista por los derechos civiles], fueran confundidos erróneamente con sospechosos de delitos. Su tasa de error es del 39%. De igual forma, investigadores del Instituto de Tecnología de Massachusets y de la Universidad de Toronto descubrieron que las mujeres de piel oscura a menudo eran identificadas erróneamente como hombres.
Los intereses empresariales predominan
Esto es un negocio, un gran negocio. Tomemos FaceFirst, un líder en la vigilancia en el comercio. La empresa afirma que puede analizar una cara sobre una base de datos de 25 millones de personas en menos de un segundo, una oportunidad para las tiendas deseosas de agarrar a los ladrones, que solo en 2016 les costaron casi 44.000 millones de euros.
Eleanor J. Bader
Sí, suena como una reencarnación del Gran Hermano del siglo XXI, pero el software de reconocimiento facial ha estado en desarrollo desde los 60 y ahora es omnipresente. La tecnología cartografía los rasgos faciales de un individuo usando algoritmos matemáticos. Una vez almacenadas, estas imágenes, llamadas “huellas faciales”, pueden utilizarse para verificar la identidad de una persona. Se puede tomar las fotos utilizando drones así como cámaras más convencionales, desde una distancia de alrededor de 15 metros, lo que recibe críticas por poder tener un impacto aterrador en las protestas, asambleas y discursos públicos, ya que la gente que es grabada normalmente no tiene ni idea de que esto está ocurriendo.
El material también puede dar lugar a identificación errónea y, peor, falsas detenciones. De hecho, los oponentes de la biométrica denuncian que a menudo se identifica incorrectamente a la gente de color. Por ejemplo, un estudio que usaba el software Rekognition de Amazon llevó a que 28 congresistas de EE UU afroamericanos, incluido John Lewis [congresista de Georgia e histórico activista por los derechos civiles], fueran confundidos erróneamente con sospechosos de delitos. Su tasa de error es del 39%. De igual forma, investigadores del Instituto de Tecnología de Massachusets y de la Universidad de Toronto descubrieron que las mujeres de piel oscura a menudo eran identificadas erróneamente como hombres.
Los intereses empresariales predominan
Esto es un negocio, un gran negocio. Tomemos FaceFirst, un líder en la vigilancia en el comercio. La empresa afirma que puede analizar una cara sobre una base de datos de 25 millones de personas en menos de un segundo, una oportunidad para las tiendas deseosas de agarrar a los ladrones, que solo en 2016 les costaron casi 44.000 millones de euros.
Pero ¿dónde consiguieron fotos de 25 millones de personas? Buena pregunta.
Una de las respuestas a esta pregunta proviene de EverAlbum.com, una empresa de Silicon Valley que ha vendido millones de fotos al Ejército de EE UU y a las agencias de seguridad de todo el país. Las imágenes habían sido extraídas de gente confiada que había pagado a EverAlbum para crear álbumes de fotos para ellos, lo que se anunció como una forma de compartir y conmemorar momentos familiares valiosos. Ninguno había dado su consentimiento a que se compartieran sus materiales.
No es sorprendente que el márketing de EverAlbum suene completamente bondadoso: “Ever es una compañía dedicada a ayudarte a capturar y redescubrir los recuerdos de tu vida”, presume la web de la empresa. “Ever automáticamente crea libros con tus recuerdos, disponiéndolos en bonitos formatos con diseño profesional. Es muy fácil editar y hacer el pedido”. Business Insider tenía tanto entusiasmo por la empresa que la calificó como una de las principales start-ups de 2016.
La empresa, de 49 trabajadores, tiene unos ingresos estimados anuales de 4,8 millones de euros. También ha conseguido más de 25 millones de dos grandes inversores desde 2016.
Se ha informado de que otra empresa estadounidense, Vigilant Solutions, propiedad de Thomson Reuters, vendió millones de matrículas digitalizadas al Servicio de Inmigración y Control de Aduanas —sin permiso de los conductores cuyas matrículas estaban incluidas—, cobrando 5,4 millones de dólares en 2018. En total, los informes indican que Vigilant tiene la capacidad de recopilar entre 150 y 200 millones matrículas digitalizadas al mes.
Lo que es aún más malicioso, el reconocimiento facial y táctil se ponen a la venta como características de seguridad por parte de algunos fabricantes de teléfonos móviles, que los ofrecen como opciones para desbloquear tu dispositivo —por ejemplo, el iPhone X se puede desbloquear mediante el reconocimiento facial—. Mientras tanto, los anuncios que destacan la capacidad de reconocimiento facial para encontrar a un niño o persona mayor extraviado recurren a nuestras emociones, ya que nadie quiere que sus series queridos se encuentren en riesgo.
Pero la promesa de que, con el toque de una pantalla o una foto una cara, todos podemos vivir vidas de seguridad inviolable y absoluta viene con limitaciones que pueden comprometer nuestros derechos civiles y privacidad. Estas preocupaciones han llevado a ciudades de todo EE UU a empezar a preguntar si la así llamada seguridad debería invalidar los derechos humanos y la esperanza de privacidad.
Aprobando restricciones locales
Activistas californianos han mostrado el camino para desafiar la tecnología de reconocimiento facial. Tracy Rosenberg es directora ejecutiva de la Media Alliance [Alianza por los Medios de Comunicación], una organización que tiene como objetivo hacer que los medios sigan siendo accesibles y responsables. También es miembro activa de Oakland Privacy [Privacidad en Oakland], una coalición que hace seguimiento de las actividades de vigilancia en esa ciudad. Rosenberg dijo a Truthout que los esfuerzos para restringir la vigilancia en el Área de la Bahía datan de 2013 y fueron una consecuencia de Occupy. Los activistas, informa, se movilizaron cuando se enteraron de que el Departamento de Seguridad Nacional había financiado el Centro de Alerta de Dominio (DAC, por sus siglas en inglés), una medida de seguridad que buscaba supervisar la actividad en el Puerto de Oakland pero que rápidamente ha aumentado su vigilancia mucho más allá del puerto.
Una de las respuestas a esta pregunta proviene de EverAlbum.com, una empresa de Silicon Valley que ha vendido millones de fotos al Ejército de EE UU y a las agencias de seguridad de todo el país. Las imágenes habían sido extraídas de gente confiada que había pagado a EverAlbum para crear álbumes de fotos para ellos, lo que se anunció como una forma de compartir y conmemorar momentos familiares valiosos. Ninguno había dado su consentimiento a que se compartieran sus materiales.
No es sorprendente que el márketing de EverAlbum suene completamente bondadoso: “Ever es una compañía dedicada a ayudarte a capturar y redescubrir los recuerdos de tu vida”, presume la web de la empresa. “Ever automáticamente crea libros con tus recuerdos, disponiéndolos en bonitos formatos con diseño profesional. Es muy fácil editar y hacer el pedido”. Business Insider tenía tanto entusiasmo por la empresa que la calificó como una de las principales start-ups de 2016.
La empresa, de 49 trabajadores, tiene unos ingresos estimados anuales de 4,8 millones de euros. También ha conseguido más de 25 millones de dos grandes inversores desde 2016.
Se ha informado de que otra empresa estadounidense, Vigilant Solutions, propiedad de Thomson Reuters, vendió millones de matrículas digitalizadas al Servicio de Inmigración y Control de Aduanas —sin permiso de los conductores cuyas matrículas estaban incluidas—, cobrando 5,4 millones de dólares en 2018. En total, los informes indican que Vigilant tiene la capacidad de recopilar entre 150 y 200 millones matrículas digitalizadas al mes.
Lo que es aún más malicioso, el reconocimiento facial y táctil se ponen a la venta como características de seguridad por parte de algunos fabricantes de teléfonos móviles, que los ofrecen como opciones para desbloquear tu dispositivo —por ejemplo, el iPhone X se puede desbloquear mediante el reconocimiento facial—. Mientras tanto, los anuncios que destacan la capacidad de reconocimiento facial para encontrar a un niño o persona mayor extraviado recurren a nuestras emociones, ya que nadie quiere que sus series queridos se encuentren en riesgo.
Pero la promesa de que, con el toque de una pantalla o una foto una cara, todos podemos vivir vidas de seguridad inviolable y absoluta viene con limitaciones que pueden comprometer nuestros derechos civiles y privacidad. Estas preocupaciones han llevado a ciudades de todo EE UU a empezar a preguntar si la así llamada seguridad debería invalidar los derechos humanos y la esperanza de privacidad.
Aprobando restricciones locales
Activistas californianos han mostrado el camino para desafiar la tecnología de reconocimiento facial. Tracy Rosenberg es directora ejecutiva de la Media Alliance [Alianza por los Medios de Comunicación], una organización que tiene como objetivo hacer que los medios sigan siendo accesibles y responsables. También es miembro activa de Oakland Privacy [Privacidad en Oakland], una coalición que hace seguimiento de las actividades de vigilancia en esa ciudad. Rosenberg dijo a Truthout que los esfuerzos para restringir la vigilancia en el Área de la Bahía datan de 2013 y fueron una consecuencia de Occupy. Los activistas, informa, se movilizaron cuando se enteraron de que el Departamento de Seguridad Nacional había financiado el Centro de Alerta de Dominio (DAC, por sus siglas en inglés), una medida de seguridad que buscaba supervisar la actividad en el Puerto de Oakland pero que rápidamente ha aumentado su vigilancia mucho más allá del puerto.
“La comunidad se molestó bastante cuando descubrió lo amplia que era la vigilancia de nuestras comunidades y empezaron a organizarse”, dice Rosenberg. “Para 2014, hicimos que la vigilancia volviera solo al puerto, pero para 2015, el DAC básicamente murió. Tras esta victoria, decidimos que necesitábamos ser más proactivos y menos reactivos, y desarrollamos un protocolo basado en la transparencia para demandar el control de toda la tecnología de vigilancia”.
Al unirse los activistas, descubrieron que el tema era todavía más serio que lo que pensaban: las empresas privadas, como Vigilant, estaban dando información a las fuerzas de seguridad.
Cinco años después, Aaron Peskin, miembro del Consejo de Supervisores de San Francisco, ayudó a llevar una medida Privacy First [La Privacidad Primero] a la votación de 2018, que buscaba incorporar los principios de la privacidad en la carta municipal. Menos de un año después, introdujo la primera prohibición completa del país sobre el uso del software de reconocimiento facial por las fuerzas de orden público y otro personal municipal.
Lee Hepner, un auxiliar legislativo de Peskin, dice que su jefe empezó a promover la propuesta Privacy First después de que su oficina descubriera un tipo diferente de invasión de la privacidad. “Descubrimos que después de que alguien desbloquea un patinete en la calle, la empresa puede conseguir el historial de crédito de esa persona y después compartir la información que revela con otras agencias. Esto se hacía sin el conocimiento del usuario”, dice Hepner. “Nadie sabía que cuando desbloqueaban un scooter, involuntariamente estaban dando su información a una multitud de empresas. Nos mostró lo extenso que era el tema de la privacidad. Teníamos que actuar”. Privacy First fue aprobada con más de un 50% de los votos, informa Hepner.
San Francisco no está sola. Para cuando la medida se convirtió en ley, otras ciudades de California, incluidas Berkeley, Oakland, Palo Alto y Santa Clara (así como Nashville, en Tennessee; Seattle, en Washington; y Cambridge, Lawrence y Somerville, en Massachusetts), habían aprobado la Ordenanza Detener la Vigilancia Secreta, una demanda de transparencia respecto a cómo y cuándo se puede usar tecnología y se pueden compartir datos.
“San Francisco lo hizo en mayo, pero es la única ciudad hasta la fecha que ha añadido una prohibición de que las agencias gubernamentales usen la tecnología de reconocimiento facial”, dice Hepner. “Nuestra ley dice que el software de reconocimiento facial representa una línea que las agencias gubernamentales no pueden cruzar porque los perjuicios superan a los beneficios”.
Aunque no se restringe que los ciudadanos y negocios privados de San Francisco usen tecnología de reconocimiento facial, las más de 50 agencias de San Francisco gobernadas por la regulación tienen hasta septiembre de 2019 para notificar al Consejo de Supervisores municipal sobre la vigilancia que utilizan.
Al unirse los activistas, descubrieron que el tema era todavía más serio que lo que pensaban: las empresas privadas, como Vigilant, estaban dando información a las fuerzas de seguridad.
Cinco años después, Aaron Peskin, miembro del Consejo de Supervisores de San Francisco, ayudó a llevar una medida Privacy First [La Privacidad Primero] a la votación de 2018, que buscaba incorporar los principios de la privacidad en la carta municipal. Menos de un año después, introdujo la primera prohibición completa del país sobre el uso del software de reconocimiento facial por las fuerzas de orden público y otro personal municipal.
Lee Hepner, un auxiliar legislativo de Peskin, dice que su jefe empezó a promover la propuesta Privacy First después de que su oficina descubriera un tipo diferente de invasión de la privacidad. “Descubrimos que después de que alguien desbloquea un patinete en la calle, la empresa puede conseguir el historial de crédito de esa persona y después compartir la información que revela con otras agencias. Esto se hacía sin el conocimiento del usuario”, dice Hepner. “Nadie sabía que cuando desbloqueaban un scooter, involuntariamente estaban dando su información a una multitud de empresas. Nos mostró lo extenso que era el tema de la privacidad. Teníamos que actuar”. Privacy First fue aprobada con más de un 50% de los votos, informa Hepner.
San Francisco no está sola. Para cuando la medida se convirtió en ley, otras ciudades de California, incluidas Berkeley, Oakland, Palo Alto y Santa Clara (así como Nashville, en Tennessee; Seattle, en Washington; y Cambridge, Lawrence y Somerville, en Massachusetts), habían aprobado la Ordenanza Detener la Vigilancia Secreta, una demanda de transparencia respecto a cómo y cuándo se puede usar tecnología y se pueden compartir datos.
“San Francisco lo hizo en mayo, pero es la única ciudad hasta la fecha que ha añadido una prohibición de que las agencias gubernamentales usen la tecnología de reconocimiento facial”, dice Hepner. “Nuestra ley dice que el software de reconocimiento facial representa una línea que las agencias gubernamentales no pueden cruzar porque los perjuicios superan a los beneficios”.
Aunque no se restringe que los ciudadanos y negocios privados de San Francisco usen tecnología de reconocimiento facial, las más de 50 agencias de San Francisco gobernadas por la regulación tienen hasta septiembre de 2019 para notificar al Consejo de Supervisores municipal sobre la vigilancia que utilizan.
“Realmente no sabemos hasta qué punto se está utilizando la tecnología de vigilancia por parte de departamentos municipales”, dice Hepner. “Por ejemplo, acabamos de descubrir que nuestro sistema de refugio para personas sin hogar usa biométrica de huellas dactilares. Esto puede ser un freno para personas que entran en los refugios porque las personas con una orden de detención pendiente pueden tener miedo de las repercusiones si entran en un refugio”.
Aprobando controles de vigilancia
La Fundación Frontera Electrónica (EFF, por sus siglas en inglés), un grupo por los derechos digitales con 29 años de historia, señala que hay dos formas principales en que las comunidades otorgan protecciones ante la vigilancia a los vecinos: la aprobación de Control Comunitario de la Vigilancia Policial (CCOPS, por sus siglas en inglés) y de Ordenanzas de Regulación de Equipos de Vigilancia (SERO). Ambos tienen la intención de frenar el seguimiento.
“En algunos lugares, las leyes estatales evitan que los ayuntamientos controlen a los departamentos de policía en ese Estado”, explica Nathan Sheard, organizador de apoyo de base de EFF. “Pero en lugares donde se han aprobado CCOPS y SERO, las agencias de policía tienen que someter una política de uso a un consejo de supervisores o ayuntamientos”, añade.
A estas instituciones se les encarga entonces llevar a cabo un análisis de la vigilancia y evaluar su impacto, especialmente cuando se trata de poblaciones históricamente marginadas y ya con una alta presencia policial. También deben dar a los miembros de la comunidad tiempo para revisar la propuesta y permitir el debate público. Tras completarse estos pasos, el órgano de gobierno decide si las fuerzas de orden público pueden adquirir el equipo de vigilancia solicitado o seguir usando el que ya tienen.
Sheard dice que este proceso es una medida de transparencia clave, pero no soluciona todo el problema. Incluso si la vigilancia y el impacto son iguales para todo el mundo —una perspectiva improbable—, los aspectos negativos de la vigilancia no desaparecerán.
“Las empresas que crean software de vigilancia están trabajando para abordar las disparidades raciales y de género que existen, pero incluso si tuviera una tasa de precisión del 100%, ¿querrían los progresistas apoyarlo?”, pregunta Sheard. “Creo que la respuesta es no”.
Víctima de identificación errónea de Apple demanda a Apple
Ousmane Bah, un estudiante de universidad del Bronx de 19 años, conoce de primera mano el trauma que la identificación errónea puede causar. El año pasado, fue incorrectamente identificado como el hombre que robó numerosos lápices de Apple —instrumentos cuyo precio oscila entre 88 y 111 euros cada uno y que se usan con el iPad Pro— de tiendas de Connecticut, Massachusetts, Nueva Jersey y Nueva York.
Aprobando controles de vigilancia
La Fundación Frontera Electrónica (EFF, por sus siglas en inglés), un grupo por los derechos digitales con 29 años de historia, señala que hay dos formas principales en que las comunidades otorgan protecciones ante la vigilancia a los vecinos: la aprobación de Control Comunitario de la Vigilancia Policial (CCOPS, por sus siglas en inglés) y de Ordenanzas de Regulación de Equipos de Vigilancia (SERO). Ambos tienen la intención de frenar el seguimiento.
“En algunos lugares, las leyes estatales evitan que los ayuntamientos controlen a los departamentos de policía en ese Estado”, explica Nathan Sheard, organizador de apoyo de base de EFF. “Pero en lugares donde se han aprobado CCOPS y SERO, las agencias de policía tienen que someter una política de uso a un consejo de supervisores o ayuntamientos”, añade.
A estas instituciones se les encarga entonces llevar a cabo un análisis de la vigilancia y evaluar su impacto, especialmente cuando se trata de poblaciones históricamente marginadas y ya con una alta presencia policial. También deben dar a los miembros de la comunidad tiempo para revisar la propuesta y permitir el debate público. Tras completarse estos pasos, el órgano de gobierno decide si las fuerzas de orden público pueden adquirir el equipo de vigilancia solicitado o seguir usando el que ya tienen.
Sheard dice que este proceso es una medida de transparencia clave, pero no soluciona todo el problema. Incluso si la vigilancia y el impacto son iguales para todo el mundo —una perspectiva improbable—, los aspectos negativos de la vigilancia no desaparecerán.
“Las empresas que crean software de vigilancia están trabajando para abordar las disparidades raciales y de género que existen, pero incluso si tuviera una tasa de precisión del 100%, ¿querrían los progresistas apoyarlo?”, pregunta Sheard. “Creo que la respuesta es no”.
Víctima de identificación errónea de Apple demanda a Apple
Ousmane Bah, un estudiante de universidad del Bronx de 19 años, conoce de primera mano el trauma que la identificación errónea puede causar. El año pasado, fue incorrectamente identificado como el hombre que robó numerosos lápices de Apple —instrumentos cuyo precio oscila entre 88 y 111 euros cada uno y que se usan con el iPad Pro— de tiendas de Connecticut, Massachusetts, Nueva Jersey y Nueva York.
Bah cree que el acabó bajo el radar de Apple después de que alguien usara su permiso de aprendizaje de conducción —que Bah dice que había perdido— como identificación después de ser atrapado por robo. De alguna forma, el nombre Ousmane Bah se vinculó entonces a las imágenes fotográficas tomadas en las tiendas Apple del ladrón o, quizás, ladrones, real.
Aunque la mayoría de los cargos contra Bah fueron desechados cuando la policía determinó que las fotos de vigilancia eran de una persona completamente diferente, el abogado Subhan Tariq dice que Bah está demandando a Apple —una compañía que vale más que el 1% del PIB mundial— por valor de mil millones de dólares en daños ya que sigue sufriendo una ansiedad perjudicial como resultado del arresto. “Se supone que los daños punitivos deben servir como disuasión”, dijo Tariq a Truthout. “Se supone que deben impedir que el mismo tipo de conducta vuelva a ocurrir en el futuro”. Apple ha presentado una moción para rechazar la demanda y una audiencia tuvo lugar en junio.
Mientras tanto, los activistas continúan movilizándose contra el reconocimiento facial y otra vigilancia biométrica. Como la Unión Estadounidense por las Libertades Civiles dice en su página web, “tienes derecho a esperar que tu vida no se convertirá en un libro abierto cuando no has hecho, y no eres sospechoso de hacer, nada malo”.
Fuente: https://www.elsaltodiario.com/tecnologia/crece-confianza-mundial-tecnologia-biometrica-tambien-oposicion-reconocimiento-facial - Reportaje original publicado en inglés en la web Truthout. Traducido para El Salto por Eduardo Pérez. Imagen de portada: Truthout. Otras imágenes: ELTIEMPO.COM - opulix.com - Infochannel
Aunque la mayoría de los cargos contra Bah fueron desechados cuando la policía determinó que las fotos de vigilancia eran de una persona completamente diferente, el abogado Subhan Tariq dice que Bah está demandando a Apple —una compañía que vale más que el 1% del PIB mundial— por valor de mil millones de dólares en daños ya que sigue sufriendo una ansiedad perjudicial como resultado del arresto. “Se supone que los daños punitivos deben servir como disuasión”, dijo Tariq a Truthout. “Se supone que deben impedir que el mismo tipo de conducta vuelva a ocurrir en el futuro”. Apple ha presentado una moción para rechazar la demanda y una audiencia tuvo lugar en junio.
Mientras tanto, los activistas continúan movilizándose contra el reconocimiento facial y otra vigilancia biométrica. Como la Unión Estadounidense por las Libertades Civiles dice en su página web, “tienes derecho a esperar que tu vida no se convertirá en un libro abierto cuando no has hecho, y no eres sospechoso de hacer, nada malo”.
Fuente: https://www.elsaltodiario.com/tecnologia/crece-confianza-mundial-tecnologia-biometrica-tambien-oposicion-reconocimiento-facial - Reportaje original publicado en inglés en la web Truthout. Traducido para El Salto por Eduardo Pérez. Imagen de portada: Truthout. Otras imágenes: ELTIEMPO.COM - opulix.com - Infochannel
