Un informe denuncia cómo la vigilancia biométrica y afectiva amenaza los derechos humanos

Publicado por AlgoRace en

Lafede, en colaboración con el Grupo de Trabajo de IA y Espacio Público de la coalición IA Ciudadana junto a AlgoRace, publicamos el nuevo informe «Automatización del control y vigilancia biométrica en el espacio público. Un análisis desde los derechos y las resistencias«, una reflexión crítica sobre la expansión de las tecnologías biométricas y los sistemas de vigilancia automatizada en el espacio público europeo y, especialmente, en el contexto de España.


El Informe “Automatización del control biométrico y la vigilancia en el espacio público. Un análisis desde los derechos y las resistencias” examina cómo se están desarrollando estas tecnologías en espacios urbanos, infraestructuras transporte, fronteras y contextos policiales y la transformación que provoca en el espacio público, con graves implicaciones para los derechos fundamentales y para la calidad democrática.

Un contexto político marcado por la securitización y la criminalización de la migración

Frente al surgimiento del discurso de extrema derecha y la normalización de las narrativas de seguridad que criminalizan a los migrantes y las personas racializadas como no blancos, el informe adopta deliberadamente una perspectiva antirracista, colocando a las comunidades más expuestas a la vigilancia y al control automatizado en el centro del análisis. El primer artículo elaborado por la periodista y miembro de AlgoRace, Paula Cáceres, muestra cómo los sistemas biométricos han evolucionado desde técnicas de identificación individual hasta infraestructuras capaces de permitir la vigilancia masiva y el monitoreo en tiempo real en espacios públicos, planteando cuestiones políticas fundamentales sobre quién se considera sospechoso, quién es monitoreado y qué comunidades se convierten en un objetivo prioritario de control tecnológico. Bajo la retórica de neutralidad y eficiencia, estas tecnologías automatizan los sesgos estructurales y consolidan un modelo de seguridad basado en la prevención algorítmica y la sospecha permanente. El informe sitúa el caso español dentro de una tendencia europea más amplia, marcada por la expansión de bases de datos biométricas como Eurodac y el despliegue de nuevas infraestructuras de control de migración en el marco del Pacto Europeo de Migración y Asilo.

Reconocimiento de emociones: vigilancia afectiva y riesgos emergentes

Uno de los ejes centrales e innovadores del informe es el análisis del reconocimiento de emociones, una tecnología emergente que tiene como objetivo inferir los estados emocionales de los datos faciales y corporales. Este tipo de sistemas se están promoviendo como herramientas para detectar “comportamientos sospechosos” o anticipar situaciones de riesgo, especialmente en contextos policiales, fronterizos y de control de migración. Estas prácticas se basan en supuestos pseudocientíficos y en una lectura reduccionista del cuerpo y las emociones, y pueden producir graves errores con consecuencias directas sobre los derechos fundamentales.

El autor del artículo, el investigador Youssef M. Ouled, advierte que esta forma de vigilancia afectiva amplía aún más los márgenes de la intrusión institucional: no solo nos permite monitorear lo que hacemos o hacia dónde vamos, sino también tratar de gobernar y clasificar lo que “sentimos”. En contextos de racismo estructural y discriminación, estas tecnologías pueden reforzar las formas de control racializado y consolidar un modelo de espacio público basado en la sospecha automatizada, la arbitrariedad y la exclusión.

Propuestas y recomendaciones para la resistencia colectiva

El informe concluye con un conjunto de recomendaciones estratégicas dirigidas tanto a instituciones como a la sociedad civil, con el objetivo de frenar la normalización de la vigilancia biométrica y fortalecer las garantías democráticas. Entre las propuestas destacadas se encuentra la necesidad de establecer prohibiciones claras sobre el uso de tecnologías biométricas en espacios públicos y en contextos migratorios, así como mecanismos eficaces de transparencia, supervisión independiente y rendición de cuentas.

El documento también destaca la importancia de construir coaliciones estables y narrativas alternativas a la titulización, promoviendo procesos de enfoque crítico de la tecnología y herramientas de incidencia colectiva que permitan disputar políticamente la expansión de estas infraestructuras de control. En este sentido, habrá una presentación pública dirigida a organizaciones y movimientos sociales el próximo mes de febrero, en Madrid, en el marco de una jornada pública de IA Ciudadana.

El documento está disponible en catalán, castellano e inglés.


0 comentarios

Deja una respuesta

Marcador de posición del avatar

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *