Rekognition: Es servicio de vigilancia de Amazon que está vendiendo a los Gobiernos
Amazon, que empezó a vender libros y aún se autodenomina como "la compañía más centrada en el cliente de la Tierra", ha ingresado oficialmente al negocio de la vigilancia.
La compañía ha desarrollado un poderoso y peligroso nuevo sistema de reconocimiento facial y está ayudando activamente a los gobiernos a implementarlo. Amazon llama al servicio "Rekognition".
Los materiales y documentos de marketing obtenidos por los afiliados de la ACLU en tres estados revelan un producto que puede utilizarse fácilmente para violar las libertades civiles y los derechos civiles. Impulsado por inteligencia artificial, Rekognition puede identificar, rastrear y analizar personas en tiempo real y reconocer hasta 100 personas en una sola imagen. Puede escanear rápidamente la información que recopila y compararla con las bases de datos con decenas de millones de caras, según Amazon.
Amazon está comercializando Rekognition para la vigilancia gubernamental. De acuerdo con sus materiales de marketing, considera el despliegue por parte de las agencias de aplicación de la ley como un "caso de uso común" para esta tecnología.
Funcionamiento Interno Amazon Rekognition
Entre otras características, los materiales de la compañía describen el "seguimiento de personas" como una forma "fácil y precisa" de investigar y monitorear a las personas. Amazon dice que Rekognition se puede usar para identificar a "personas de interés", lo que plantea la posibilidad de que aquellos etiquetados como sospechosos por los gobiernos, como los inmigrantes indocumentados o los activistas, sean considerados como un juego justo para la vigilancia de Rekognition. También dice que Rekognition puede monitorear "todas las caras en fotos grupales, eventos concurridos y lugares públicos como aeropuertos", en un momento en que los estadounidenses se están uniendo a las protestas públicas a niveles sin precedentes.
Rekognition de Amazon plantea profundas inquietudes sobre las libertades civiles y los derechos civiles. Hoy, la ACLU y una coalición de organizaciones de derechos civiles exigieron que Amazon deje de permitir que los gobiernos usen Rekognition.
Amazon ayuda a los gobiernos
Amazon no solo comercializa Rekognition como un servicio policial, sino que ayuda a los gobiernos a implementarlo. Amazon enumera la ciudad de Orlando, Florida, y la Oficina del Sheriff del Condado de Washington en Oregon entre sus clientes. Al enterarse de esto, los Fundamentos de la ACLU de California se coordinaron con la ACLU de Oregon y la ACLU de Florida en solicitudes de registros públicos para obtener más información.
Los documentos que obtuvieron indican que el sheriff del condado de Washington y la ciudad de Orlando se convirtieron en clientes de Rekognition en 2017. Desde entonces, el condado de Washington ha creado una base de datos de al menos 300,000 fotografías policiales para usar en coordinación con Rekognition. También creó una aplicación móvil para que sus adjuntos escanearan rápidamente una coincidencia con la base de datos del condado mediante el envío de imágenes obtenidas de la vigilancia u otras fuentes.
¿Amazon debería dejar el negocio de la vigilancia?
Amazon proporciona recursos de la compañía para ayudar a las agencias gubernamentales a implementar Rekognition. En los correos electrónicos entre los empleados de Amazon y del Condado de Washington, la empresa ofrece la experiencia del equipo de productos Rekognition, soluciona los problemas encontrados por el condado y brinda consejos sobre "mejores prácticas" sobre cómo implementar el servicio. En lo que el jefe de policía de Orlando elogia como una "asociación pública y privada primera en su tipo", Amazon prometió servicios gratuitos de consultoría para construir una "prueba de concepto" Rekognition para la ciudad. La vigilancia facial de Rekognition ahora está operando en Orlando en tiempo real, según Amazon, lo que permite a la compañía buscar "personas de interés" a medida que se filman imágenes de "cámaras de toda la ciudad".
En los registros, Amazon también solicita comentarios e ideas para "posibles mejoras" a las capacidades de Rekognition para los gobiernos. El condado de Washington incluso firmó un acuerdo de confidencialidad creado por Amazon para obtener "información sobre la hoja de ruta de Rekognition" y proporcionar comentarios adicionales sobre el producto. El condado posteriormente citó esta NDA para justificar la retención de documentos en respuesta a la solicitud de registros públicos de la ACLU.
Los documentos también revelaron que Amazon ofreció conectar el condado de Washington con otros clientes del gobierno de Amazon interesados en Rekognition, así como con un fabricante de cámaras corporales. De hecho, el material promocional de Amazon recomendó anteriormente que las fuerzas del orden usen Rekognition para identificar a las personas en las imágenes de las cámaras de la policía. La compañía eliminó la mención de las cámaras corporales de la policía de su sitio web después de que la ACLU expresara su preocupación en las conversaciones con Amazon. Esta y otras prácticas de vigilancia profundamente preocupantes aún son permisibles bajo las políticas de la compañía.
Con Rekognition, un gobierno ahora puede construir un sistema para automatizar la identificación y el seguimiento de cualquier persona. Si las cámaras corporales de la policía, por ejemplo, fueran equipadas con reconocimiento facial, los dispositivos destinados a la transparencia y responsabilidad de los oficiales se transformarían en máquinas de vigilancia dirigidas al público. Con esta tecnología, la policía podría determinar quién asiste a las protestas. ICE podría buscar monitorear continuamente a los inmigrantes mientras se embarcan en sus nuevas vidas.
Las ciudades pueden rastrear rutinariamente a sus propios residentes, ya sea que tengan motivos para sospechar de actividades delictivas o no. Al igual que con otras tecnologías de vigilancia, estos sistemas seguramente serán desproporcionadamente dirigidos a las comunidades minoritarias.
Debido a la capacidad de abuso de Rekognition, ACLU (American Civil Liberties Union) solícito al condado de Washington y a Orlando cualquier registro que demuestre que a sus comunidades se les brindó la oportunidad de analizar el servicio antes de su adquisición. También les preguntamos sobre las reglas que rigen cómo se podría usar el poderoso sistema de vigilancia y cómo garantizar la protección de los derechos. Ninguna localidad identificó tales registros. De hecho, el condado de Washington comenzó a usar Rekognition incluso cuando los empleados plantearon preguntas internamente. En un correo electrónico, un empleado del Condado de Washington expresó la preocupación de que "la ACLU podría considerar que el gobierno está en la cama con big data". La predicción de ese empleado era correcta.
Las personas deben poder caminar por la calle sin ser vigiladas por el gobierno. Al automatizar la vigilancia masiva, los sistemas de reconocimiento facial como Rekognition amenazan esta libertad, lo que representa una amenaza particular para las comunidades ya injustamente atacadas en el clima político actual. Una vez que se hayan construido y desplegado sistemas de vigilancia como estos, el daño será extremadamente difícil de deshacer.
Si Rekognition no se contiene, su uso también se extenderá. Los registros que obtuvimos muestran que las agencias de la ley en California y Arizona se han comunicado con el Condado de Washington preguntando por Rekognition. Así que tenemos varios "centros de fusión", que recopilan información sobre personas para su diseminación entre agencias a nivel local y federal.
Amazon se ha opuesto públicamente a la vigilancia secreta del gobierno. Su CEO, Jeff Bezos, ha criticado a la prohibición musulmana discriminatoria de la administración Trump. Pero las acciones hablan más que las palabras, y los esfuerzos de Amazon para implementar esta tecnología van en contra de sus valores proclamados y riesgo de daño a los clientes de la compañía y sus comunidades.