Una persona puede ser perfectamente visible para quienes caminan a su alrededor y, al mismo tiempo, pasar inadvertida para un algoritmo.
Esa es la idea detrás de Digital Camouflage, una camisa creada por el diseñador y artista alemán Simon Weckert para explorar las vulnerabilidades de los sistemas de vigilancia que utilizan inteligencia artificial.
LEA TAMBIÉN
Según informó 'TN Tecno', Weckert trabaja en proyectos vinculados con la relación entre tecnología, espacio público y vigilancia digital.
Su nueva propuesta surgió frente al despliegue de cámaras automatizadas en Berlín y busca mostrar cómo determinados sistemas de visión artificial pueden cometer errores al interpretar aquello que registran.
La prenda no vuelve invisible a quien la utiliza ni impide que una cámara registre su imagen. Su estampado combina formas y colores diseñados para interferir con determinados algoritmos encargados de identificar la figura humana.
“Quería una respuesta con la que uno pudiera plantarse delante de esas cámaras”, explicó Weckert.
Trabaja en proyectos de tecnología, espacio público y vigilancia digital. Foto:Instagram: @simonweckert
El experimento surgió por un sistema de vigilancia instalado en Berlín
El proyecto tuvo como punto de partida Kottbusser Tor, una zona de Berlín donde comenzaron a utilizarse cámaras con tecnología destinada a analizar comportamientos de las personas que circulan por el espacio público.
“El disparador fue concreto: Berlín encendió su primer escáner de comportamiento con inteligencia artificial, un software que clasifica lo que hace cada transeúnte entre ‘normal’ y ‘sospechoso’”, afirmó Weckert.
LEA TAMBIÉN
Cómo el estampado busca alterar la detección de personas
Digital Camouflage recurre al principio de los llamados ataques adversariales. Esta técnica introduce modificaciones visuales destinadas a provocar errores en la interpretación de un modelo de inteligencia artificial.
En el proyecto de Weckert, esas alteraciones no están incorporadas a un archivo digital, sino impresas sobre una prenda.
Los modelos de visión artificial utilizados para detectar personas se entrenan con grandes conjuntos de imágenes y aprenden patrones estadísticos relacionados con elementos como la silueta, las proporciones corporales y la ubicación de diferentes partes del cuerpo.
“Los sistemas de detección nunca aprendieron qué es un ser humano: memorizaron cómo se ven estadísticamente a partir de millones de imágenes”, señaló Weckert.
Según explicó el diseñador al medio argentino, las figuras superpuestas del estampado buscan distorsionar las referencias que utiliza el software para asociar cabeza, hombros y piernas con una misma persona.
Los colores de la camisa agregan más información visual al procesamiento. “El ojo humano inmediatamente ve a una persona con una camisa llamativa; el algoritmo no ve nada”, resumió.
La camisa no funciona contra cualquier sistema de inteligencia artificial
El alcance del experimento tiene límites. Weckert reconoció que un patrón preparado para provocar errores en un determinado modelo no necesariamente producirá el mismo resultado en otro.
“Los patrones adversariales son específicos de cada modelo y su capacidad de transferirse a otros sistemas es limitada”, explicó.
Las demostraciones del proyecto fueron realizadas con un detector genérico de código abierto. Weckert no aseguró que Digital Camouflage pueda producir los mismos resultados frente a un sistema gubernamental específico ni que permita evitar cualquier tecnología de reconocimiento facial.
Más allá del funcionamiento técnico de la camisa, Weckert vinculó su proyecto con los efectos que puede tener la vigilancia permanente sobre las personas. “La vigilancia cambia a las personas.
Una plaza vigilada hace que caminemos, nos reunamos y hablemos de otra manera. La libertad se reduce silenciosamente, sin que haya un solo arresto”, sostuvo.
“Para muchas de ellas, esa plaza es su hogar. El sistema puede marcarlas simplemente por existir allí”, afirmó. Sobre las posibilidades de evitar esos mecanismos de vigilancia, añadió: “Quienes tienen un espacio privado pueden alejarse de las cámaras; quienes viven en el espacio público, no”.
LEA TAMBIÉN
“La identificación mediante reconocimiento facial, de manera remota y en tiempo real en espacios públicos, implica una afectación sobre los datos personales sensibles de las personas. Cuando el uso de esas tecnologías no está justificado, los ciudadanos deben tener derecho a oponerse”, afirmó Regairaz.
*Este contenido fue escrito con la asistencia de una inteligencia artificial, basado en información de conocimiento público divulgado a medios de comunicación. Además, contó con la revisión de la periodista y una editora.
JOS GUERRERO
REDACCIÓN ALCANCE DIGITAL
