El agresivo esfuerzo de Amazon para que la policía en Estados Unidos utilice inteligencia artificial

A mediados de 2023, la Oficina del Sheriff del Condado de San Diego buscaba mejorar sus operaciones de vigilancia con drones. Entre quienes competían por ayudar se encontraban proveedores habituales de servicios policiales y otro: Amazon Web Services.

La compañía presentó un prototipo de una herramienta de inteligencia artificial capaz de detectar armas o cualquier objeto de interés en fotos y videos de vigilancia en vivo, enviando alertas de texto a la policía con su ubicación.

El condado de San Diego realizó una demostración, pero la aprobó. De igual manera, tras probar el software de transmisión en vivo que impulsa la plataforma de juegos Twitch de Amazon para transmitir sus grabaciones de drones en tiempo real, la agencia optó por un proveedor diferente, Nomad Media. Sin embargo, la tienda de todo lo que vende el mundo seguirá recibiendo un cheque por ese acuerdo. Nomad mantiene una estrecha colaboración con Amazon Web Services. Ejecuta su software en la nube de AWS y su detección de objetos, en caso de que San Diego u otros clientes decidan usarla, está impulsada por Rekognition, el servicio de análisis de imágenes y videos con IA de Amazon. El director ejecutivo de Nomad, Adam Miller, declaró a Forbes que su empresa suele colaborar con Amazon. “Utilizamos una gran cantidad de sus servicios de AWS”, afirmó Miller.

Es un modelo que está funcionando bien para Amazon y sus socios, quienes buscan hacerse con una porción del mercado de tecnología policial, valorado en 11.000 millones de dólares. Correos electrónicos con agencias policiales de toda la Costa Oeste muestran que el equipo de seguridad escolar y policial de Amazon, liderado por un expolicía del estado de Washington, está buscando activamente nuevos clientes. En conferencias y eventos con las fuerzas del orden locales y federales, ha estado promocionando sus propios productos y una creciente gama de herramientas de vigilancia de socios que se ejecutan en su vasta infraestructura en la nube, entre ellas:

• Seguimiento de vehículos de la startup Flock Safety, valorada en 7.500 millones de dólares;
• IA para unir conjuntos de datos masivos con miles de millones de registros sobre ciudadanos estadounidenses de Lucidus Tech, ahora propiedad de Flock ;
• Una colección de aplicaciones diseñadas para usarse en centros de vigilancia conocidos como “centros de delitos en tiempo real”, de la empresa C3 AI con una capitalización de mercado de 1.500 millones de dólares y nuevas empresas más pequeñas como Revir Technologies;
• Software de detección de armas de ZeroEyes, una startup con 80 millones de dólares en financiación;
• Software de inteligencia artificial que puede ayudar a redactar informes policiales de las nuevas empresas Abel Police y Mark43;
• Varias tecnologías de Veritone, una empresa con una capitalización de mercado de 444 millones de dólares que crea inteligencia artificial que puede identificar y rastrear a personas en imágenes de vigilancia o vídeos publicados en las redes sociales;
• Producto Verus de Leo Technologies, que monitorea y transcribe constantemente las llamadas de los reclusos en “tiempo casi real” para su análisis mediante inteligencia artificial.

Los correos electrónicos, obtenidos mediante solicitudes de registros públicos, sugieren que Amazon ha estado promocionando agresivamente su tecnología de vigilancia a la policía. En un mensaje, el responsable de seguridad escolar y policial de Amazon presiona a la oficina del Sheriff del Condado de San Diego para que venda Lucidus, escribiendo: “Es una de las herramientas más asombrosas que he visto para las fuerzas del orden y tiene tantas aplicaciones que no quiero desviar su atención… Creo que su equipo de inteligencia carcelaria se volvería loco”. En ese momento, Lucidus promocionaba una “base de datos de personas” con más de 120 mil millones de registros, que la policía podía usar para buscar números de la seguridad social, direcciones, correos electrónicos y más.

Lee también: Chile lidera ranking de ciberseguridad en Latinoamérica, pero aún tiene “vulnerabilidades críticas”

En un mensaje de noviembre de 2023 a los jefes de policía del condado de King, Washington, el mismo responsable de Amazon propuso una reunión para “hablar sobre la estrategia para implementar ZeroEyes en sus escuelas”. En otro, instó a los departamentos a “impulsar el proceso en todo el condado” para instalar los lectores de matrículas de Flock en las carreteras. Cuando se enteró de que la Oficina del Sheriff del Condado de King buscaba soluciones de IA para 2024, envió otro mensaje. “Quiero presentarme ante quienes estén a cargo de esos proyectos para compartir el trabajo que ya estamos realizando con otras agencias, para que esto no se convierta en un proyecto científico”, escribió.

“No me di cuenta de que Amazon estaba sirviendo como partera de las tecnologías de inteligencia artificial para el cumplimiento de la ley”.Jay Stanley, ACLU

La portavoz de Amazon Web Services, Aisha Johnson, dijo que los correos electrónicos obtenidos por Forbes eran simplemente negocios normales y señaló que la compañía tiene la intención de proporcionar a los clientes del sector público “herramientas para proteger los derechos de los ciudadanos y cumplir con las leyes aplicables”.

Pero los activistas de la privacidad han estado preocupados por el trabajo de Amazon con las fuerzas del orden. Las herramientas de reconocimiento facial de la compañía han sido criticadas por ser malas para diferenciar rostros no blancos ; a principios de este año, fue criticada por asociarse con el gigante de la tecnología policial Axon para un servicio que permite a la policía obtener imágenes de las cámaras Ring; después de haber puesto una moratoria en las ventas del reconocimiento facial en su Rekognition a los policías en 2020, los activistas de la privacidad expresaron sus preocupaciones cuando comenzó a venderlo al Departamento de Justicia el año pasado, aunque Amazon dijo que de ninguna manera violó la moratoria. “Es desalentador ver a una de las compañías más grandes y poderosas impulsando la tecnología de vigilancia autoritaria de esta manera”, dijo Jay Stanley, analista senior de políticas de la ACLU, a Forbes. “No me di cuenta de que Amazon estaba sirviendo como partera para las tecnologías de inteligencia artificial para las fuerzas del orden”. Amazon ha cuestionado previamente tales caracterizaciones, diciendo que recomienda que la policía solo actúe en base a coincidencias faciales de Rekognition con un puntaje de confianza del 95% o más y que la asociación de Ring con Axon “fomentaría una conexión vital entre nuestros vecinos y las agencias de seguridad pública en sus comunidades, brindándoles una forma de trabajar juntos para mantener sus vecindarios seguros”.

Los jefes de TI y socios de la policía parecen estar encantados de que Amazon desempeñe precisamente ese papel. Ashish Kakkad, director de informática de la Oficina del Sheriff del Condado de San Diego, declaró a Forbes que su agencia veía a la empresa como una vía fácil para acceder a nuevas tecnologías que de otro modo no habrían conocido, una que aportaba “nivel de credibilidad”.

Daniel Francis, cofundador y director ejecutivo de Abel Police, adoptó una postura similar. “El equipo de AWS es maravilloso”, afirmó. “Han presentado a varias agencias”, y añadió que su colaboración había despertado el interés en la herramienta de Abel, que genera automáticamente informes policiales mediante el análisis de las grabaciones de las cámaras corporales. La aplicación de Abel, exalumna de AY Combinator y con una financiación inicial de 5 millones de dólares, también puede leer documentos de identificación, como licencias de conducir, y recopilar información contextual sobre ellos de las bases de datos policiales. Gracias a una presentación del año pasado por parte del responsable de las fuerzas del orden de Amazon, Francis declaró a Forbes que la compañía está a punto de implementar un programa piloto con el condado de San Diego.

El director ejecutivo de Veritone, Ryan Steelberg, y Miller, de Nomad, afirmaron que Amazon había contribuido a que sus empresas se conectaran con clientes policiales más allá de Estados Unidos, con recientes incorporaciones a agencias del Reino Unido. «En los últimos dos años, AWS ha colaborado más, esforzándose al máximo para ganar cuota de mercado en el sector público», declaró Steelberg. «Han sido un socio excelente, ayudándonos a conectar con nuevos clientes y con otras agencias a nivel internacional».

Más allá de los drones, AWS se ha adentrado en el cada vez más lucrativo negocio de los centros de delincuencia en tiempo real (RTCC), promocionando servicios que respaldan la recopilación y el análisis con IA de datos de vigilancia policial. El año pasado, organizó una Jornada de Innovación en Justicia y Seguridad Pública en sus oficinas de Irvine, California, donde ofreció acceso a una visita guiada al RTCC de una agencia policial para mostrar a los agentes cómo funcionan estos centros.

Como informó Forbes la semana pasada, a AWS se le atribuyó su “extremada participación” con C3 AI en la extensa iniciativa RTCC de este último, denominada Proyecto Sherlock , junto con la Oficina del Sheriff del Condado de San Mateo de California y al menos otras 15 agencias. Diseñado para centralizar y analizar las transmisiones de vigilancia de los departamentos de toda la zona, generó más de 11 millones de dólares en ingresos para los socios, aunque se ha visto afectado por retrasos. AWS cuestionó su nivel de participación en el proyecto, alegando que no contribuyó a la creación de Sherlock, sino que solo utilizó su nube.

Ese contrato se financió en gran medida con subvenciones gubernamentales, algo en lo que el responsable de las fuerzas del orden de Amazon se ofreció a colaborar. En correos electrónicos enviados a la Oficina del Sheriff del Condado de Riverside (California), poco después de que un colega de Amazon presentara el producto de vigilancia de comunicaciones penitenciarias de Leo Technologies ante la agencia, se ofreció a realizar parte del trabajo policial, obteniendo todos los detalles del Programa de Subvenciones para la Prevención del Robo Organizado en Minoristas de California, de 242 millones de dólares. “Eso mostrará todos los fondos a los que pueden optar”, escribió. “Quiero ayudarlos a conseguirlos todos para esta modernización”. El portavoz de Amazon, Johnson, afirmó que no era raro “informar” a los clientes sobre las subvenciones disponibles.

A mediados de octubre, AWS asistirá al principal evento policial estadounidense del año, la conferencia de la Asociación Internacional de Jefes de Policía en Denver, donde la IA es la prioridad. En años anteriores, ha organizado fiestas con bebidas, comida y música en vivo para conectar con clientes policiales actuales y potenciales. Para 2025, adoptará un enfoque más relajado en su estrategia de marketing: patrocinará el Salón de Bienestar del evento. Allí, los agentes de policía podrán descansar y relajarse antes de volver a la sala de exposiciones para explorar la gran variedad de tecnología de espionaje disponible, gran parte de la cual se ejecuta en servidores de Amazon.

Este artículo fue publicado originalmente por Forbes US.