Un precedente peligroso: cómo el reglamento de IA de la UE perjudica a las personas migrantes
Este 13 de marzo de 2024, el Parlamento Europeo aprobó el Reglamento de Inteligencia Artificial de la UE (AI Act por sus siglas en inglés). Si bien la legislación ha sido ampliamente celebrada como una primicia mundial, se queda corta en lo relativo a la migración al no prevenir daños ni brindar protección a las personas migrantes.
En su versión final, la AI Act UE sienta un peligroso precedente. La legislación desarrolla un marco legal independiente (del que se aplica a la población comunitaria) para el uso de IA por parte de las autoridades policiales, de control de la migración y de seguridad nacional, presentando lagunas injustificadas e incluso fomentando el uso de sistemas peligrosos para una vigilancia discriminatoria sobre personas en situación de vulnerabilidad. La presente declaración señala algunas de las principales lagunas del reglamento en lo relativo al uso de IA en materia de migración.
Por qué la AI Act falla a las personas migrantes
La AI Act pretende establecer un marco regulador para el desarrollo y uso de IA considerada de “riesgo” dentro de la UE. Este Reglamento prohíbe usos considerados «inaceptables» y establece requisitos técnicos de supervisión y de rendición de cuentas a los considerados de «alto riesgo» cuando se desplieguen o comercialicen en la UE.
Si bien esta legislación da pasos positivos en otras áreas, es débil y permite que sistemas calificados como inaceptables se puedan usar para el control migratorio:
- Las prohibiciones de los sistemas de IA no se extienden al contexto de la migración. La legislación introduce prohibiciones (limitadas) para usos nocivos de la IA. Los legisladores de la UE se negaron a prohibir sistemas perjudiciales y discriminatorios como los de evaluación de riesgos en la migración, así como los de análisis predictivos cuando estos se usen para facilitar las expulsiones forzosas de la UE. Además, la prohibición del reconocimiento de emociones no se aplica en el contexto de la migración, por lo que quedan excluidos casos como los documentados por el uso de detectores de mentiras en las fronteras.
- La lista de sistemas de alto riesgo no recoge aquellos que se usan en el contexto de la migración y que, por lo tanto, no estarán sujetos a las obligaciones del Reglamento. Esta lista excluye sistemas calificados de peligrosos como la identificación biométrica, escáner de huellas o herramientas de previsión usadas para predecir, prohibir y restringir la migración.
- Mientras que no se podrán aplicar a población de la UE aquella IA utilizada como parte de bases de datos a gran escala, en materia de migración bases de datos como Eurodac, el Sistema de Información de Schengen y ETIAS, no tendrá que cumplir el Reglamento hasta 2030.
- En lo relativo a la exportación de tecnología de vigilancia perjudicial: no se aborda cómo los sistemas desarrollados por empresas con sede en la UE afectan a personas fuera de la UE, a pesar de las pruebas existentes de violaciones de derechos humanos de tecnologías de vigilancia desarrolladas en la UE en terceros países (véase China o Palestina). Por lo tanto, no estará prohibido exportar fuera de la UE un sistema que está prohibido en Europa.
Un precedente peligroso: permitir una vigilancia perjudicial sobre personas migrantes por parte de las autoridades policiales
Quizá el aspecto más perjudicial de la la Ai Act es la creación de un marco paralelo para las autoridades policiales, de migración y de seguridad nacional, como resultado de la presión ejercida por los Estados miembros, las fuerzas del orden y los grupos de presión de la industria de la securitización. Estas autoridades están explícitamente exentas de las normas y salvaguardias más importantes de la Ley de IA:
- Exenciones a las salvaguardias de transparencia y supervisión para las autoridades policiales. El Reglamento introduce salvaguardas de transparencia a las autoridades públicas que utilicen sistemas de IA de alto riesgo a la hora de registrar información sobre el sistema en una base de datos de acceso público. La AI Act introduce una excepción a este requisito para las autoridades policiales y de migración, lo que infunde secretismo a algunos de los usos más nocivos. Esto hará imposible que las personas afectadas, la sociedad civil y los periodistas sepan dónde se despliegan los sistemas de IA.
- La exención sobre seguridad nacional permitirá a los estados miembros eximirse de las reglas para cualquier actividad que consideren relevante para la “seguridad nacional”, en esencia una exención general a las reglas del Reglamento que, en la práctica, podrá usarse en cualquier asunto de migración, vigilancia y seguridad.
Estas exenciones codifican de hecho la impunidad para el uso sin restricciones de la tecnología de vigilancia, sentando un peligroso precedente para el uso de la tecnología de vigilancia en el futuro. En efecto, los legisladores han limitado enormemente el escrutinio crucial de las autoridades encargadas de hacer cumplir la ley y han permitido un uso cada vez mayor de la vigilancia racializada y discriminatoria. Estas lagunas jurídicas perjudicarán a las personas migrantes, a las comunidades racializadas y a otras comunidades marginadas que ya son las más afectadas por los ataques y la vigilancia excesiva de las autoridades.
Derechos fundamentales, tecnología de vigilancia y migración: ¿qué viene después?
La AI Act de la UE tardará entre 2 y 5 años en entrar en vigor. Mientras tanto, se seguirán probando, desarrollando e implantando sistemas de IA nocivos en muchos ámbitos de la vida pública. Además, este Reglamento es sólo uno de los marcos legales en los que la UE permite la tecnología de vigilancia. Desde el Reglamento de control, Eurodac, hasta muchos otros, vemos un marco jurídico en expansión que vigila, discrimina y criminaliza a las personas migrantes.
La coalición #ProtectNotSurveil comenzó a andar en febrero de 2023 precisamente, para abogar porque la AI Act proteja a las personas migrantes y racializadas de los daños derivados del uso de sistemas de IA. Esta coalición seguirá monitoreando, defendiendo y organizándose contra los usos nocivos de la tecnología de vigilancia.
Los próximos pasos serán cruciales:
- Que los organismos nacionales y de la UE documenten y respondan a los daños derivados del uso de la IA en contextos migratorios y policiales, garantizando la protección frente a la violación de derechos de las personas.
- Que la sociedad civil se oponga a una mayor expansión del marco de vigilancia, revirtiendo y rechazando las tendencias que criminalizan, persiguen y discriminan a personas migrantes, racializadas y grupos marginalizados.
- Que todos re-evalúen la inversión de recursos en tecnologías que castigan, persiguen y perjudican a las personas, en lugar de reforzar los derechos de las personas y brindarles protección.
Este comunicado ha sido desarrollado por la coalición #ProtectNotSurveil compuesta por: Access Now, European Digital Rights (EDRi), Platform for International Cooperation on Undocumented Migrants (PICUM), Equinox Initiative for Racial Justice, Refugee Law Lab, AlgorithmWatch, Amnesty International, Border Violence Monitoring Network (BVMN), Digitalcourage, EuroMed Rights, European Center for Not-for-Profit Law (ECNL), European Network Against Racism (ENAR), Homo Digitalis, Privacy International, Statewatch, Dr Derya Ozkul, Dr. Jan Tobias, and Dr Niovi Vavoula.
0 comentarios