IBM usó secretamente imágenes de las cámaras de circuito cerrado (CCTV) de la policía de Nueva York para desarrollar una tecnología de vigilancia que pudiera buscar a las personas según sus características corporales, como la edad y el tono de la piel. La información surge de un informe de The Intercept que cita documentos confidenciales de la compañía, así como entrevistas con antiguos investigadores de IBM y funcionarios del NYPD.

Aunque IBM había hecho público su software de análisis de video para buscar personas que usan rasgos como edad y origen étnico, no había revelado previamente su uso en imágenes de vigilancia para desarrollar esta tecnología. La extensión del trabajo de IBM con el NYPD y el secreto con el que lo hizo es un ejemplo preocupante de como las compañías de tecnología que se asocian con gobiernos para construir sistemas de vigilancia sin ningún tipo de supervisión pública.

La capacidad de estas nuevas tecnologías, así como la inteligencia artificial utilizada para potenciar la vigilancia, ha preocupado a los defensores de la privacidad durante años. No solo se sabe que dichos sistemas pueden tener un sesgo racial (lo que significa que son propensos a cometer más errores al identificar individuos con colores de piel específicos), sino que además no existe una legislación clara para regular su uso.

Según la historia publicada por The Intercept, el NYPD adquirió el software de análisis de video de IBM a través de su filial Vexcel en 2007. La tecnología comenzó a probarse en el centro de comando de contraterrorismo de la ciudad de Nueva York, que es parte de la Iniciativa de Seguridad para el Bajo Manhattan, en marzo de 2010.

Un vocero del departamento de policía aclaró que el software se estaba ejecutando en "menos de cincuenta" de las 512 cámaras de esa unidad.

Para 2012, según los informes, IBM estaba "probando el software de análisis de video en los cuerpos y rostros de los neoyorquinos, capturando y archivando sus datos físicos mientras caminaban en público". La compañía luego utilizó estas imágenes para mejorar su funcionalidad de búsqueda, permitiendo a los operadores construir funciones para encontrar personas en función de la edad, el sexo, el color del cabello, el vello facial y el tono de la piel.

El NYPD aclaró que nunca usó estas características. "Las herramientas equipadas con capacidades de búsqueda racial o de tono de piel se ofrecieron al NYPD, fueron rechazados de forma explícita ", subrayó su vocero.

Sin embargo, el ex investigador de IBM Rick Kjeldsen, que trabajó en el proyecto entre 2009 y 2013, afirma que esto es engañoso. "No hubiéramos explorado [la funcionalidad de búsqueda] si el NYPD nos hubiera dicho 'no queremos hacer eso'", reveló a The Intercept. "Ninguna compañía va a gastar dinero donde no haya interés del cliente".

Kjeldsen dijo que varios investigadores de IBM involucrados en el proyecto estaban preocupados por el potencial uso indebido de la tecnología. Agregó además que una de sus principales objeciones fue la falta de divulgación pública acerca de cómo se podrían implementar estas herramientas potencialmente invasivas. "Ahí es donde necesitamos que haya una conversación", explicó Kjeldsen. "Eso es exactamente por lo que el conocimiento de esto debería estar más ampliamente disponible, para que podamos resolverlo".