AlgoRace desarrolla una jornada sobre derechos en el entorno digital en el Congreso de los Diputados
Bajo el título Sociedad Civil, Derechos Digitales e IA, AlgoRace ha desarrollado una jornada de debates en torno al contexto de digitalización y la vulneración de derechos que se produce en este entorno, especialmente, en el impacto que tiene el diseño e implementación de sistemas de IA y algorítmicos en las personas migrantes y racializadas.
El evento tuvo lugar en el Congreso de los Diputados el 23 de septiembre y consistió en la celebración de dos mesas redondas. Una primera mesa compuesta por organizaciones de la sociedad civil que expusieron la realidad de sus colectivos y luchas en la defensa de sus derechos en entornos digitales; y una segunda en la que se entrevistó a una diputada del Congreso cuya actividad política está directamente ligada al tema de debate.
La primera mesa estuvo moderada por el coordinador de AlgoRace, Youssef Ouled y conformada por:
- Ichmawarmi. Jackeline Sosa. Ella es gestora intercultural, Investigadora, difusora del Sumaq Kawsay o Buen vivir, integrante de la asamblea Plaza de los pueblos y colectivos sociales Antirracistas en Madrid. Trabaja como consultora externa en decolonialidad para entidades de cooperación internacional al desarrollo. También es intégrante del movimiento por la justicia climática y justicia racial «BLACK INDIGENOUS LIBERATION MOVEMENT» Coalición de 134 organizaciones, movimientos de 22 paises y comunidades indígenas y Afros.
- Monica Kareen Claros Cadima, ella es mujer migrante de América del sur, activista en SOS Racismo Madrid y Data Scientist. Desde el año 2017 en España, busca aprovechar el potencial de la información de datos y elaborar estrategias frente a desafíos trascendentales de la vida.
- Felipe Diez Prat es doctor en Sociología y Antropología por la UCM. Esta en la lucha por las condiciones laborales y la transparencia algorítmica en las plataformas de trabajo desde 2017, cuando era repartidor de Deliveroo. Le desconectaron en 2018 tras ir a exponer a la Asamblea de Madrid e instar a los diputados a regular el sector. Ahí entró a formar parte de Riders X Derechos y comenzó su tesis doctoral sobre la Economía de plataformas. En 2020 entré a trabajar en la UGT y en 2021 participé en el proceso de negociación de la «Ley rider». Desde 2022 es parte del Observatorio de Trabajo, Algoritmo y Sociedad.
- Judith Membrives i Llorens cursa un doctorado en Sociedad, Cultura y Tecnología, investigando en la UOC sobre impacto social, ética y epistemología de la inteligencia artificial. Es también responsable de tecnología y derechos humanos en Lafede.cat y miembro fundadora de Algorights.
- David Cabo es el co-fundador y co-director de Civio, una fundación independiente y sin ánimo de lucro en España dedicada a la promoción de la transparencia y la responsabilidad en los poderes públicos. Desde su creación en 2012, Civio se ha distinguido por su enfoque único que combina el periodismo de datos, el activismo y la tecnología para lograr un cambio significativo en la esfera pública. A través de sus investigaciones, basadas en solicitudes de acceso a la información y un uso exhaustivo de fuentes públicas, Civio desvela información crucial en áreas como el acceso a la salud, el lobby o los presupuestos públicos. Es ingeniero Superior en Informática y Licenciado en Psicología.
Después de una primera mesa con compañeras de diferentes colectivos y organizaciones, de la mano de nuestra compañera Paula Guerra, responsable del Área de Incidencia de AlgoRace, dimos paso al coloquio con Teslem Andala Ubbi, más conocida como Tesh Sidi.
Tesh nació en los campos de refugiados saharauis ubicados en Tinduf, Argelia. Se crió con su abuela en Mauritania y desde los 12 años vive en el Estado español. Es ingeniera informática con un master en Big Data, ha sido activista anticolonialista y por el derecho a la autodeterminación del pueblo saharaui. Fue presidenta de la Asociación Saharaui en Madrid y creó Saharawis Today, una plataforma de comunicación digital especializada en el conflicto saharaui. En 2023 fue elegida diputada en el Congreso por la formación política SUMAR por Madrid, donde es vicepresidenta segunda de la comisión de Economía, Comercio y Digitalización.
Entre los principales puntos abordados a lo largo de la sesión podemos rescatar ideas como urgencia en abolir la IA y la infraestructura tecnológica tal y como la conocemos ahora, ya que están íntimamente ligadas a prácticas extractivistas como mencionó nuestra compañera Jackeline Sosa denunció que “Google se instaló en el sur de Uruguay, consumiendo 7.6 millones de litros de agua al día», ejemplificando cómo las corporaciones tecnológicas agotan recursos vitales en el Sur Global, afectando comunidades locales y a la vida de todos los seres vivos que habitan el territorio, posicionando la tecnología como una amenaza que perpetúa la explotación de recursos naturales y humanos, con efectos devastadores en la Madre Tierra.
Se puso sobre la mesa la crítica hacia la creciente vigilancia digital, afirmando que la IA es parte de una «amalgama sociotécnica de control social» que erosiona la libertad y privacidad. Se expuso el caso de «reconocimiento facial en las calles,» que viola el derecho al anonimato y crea una «sociedad de la sospecha.» Donde ademas “los algoritmos de las plataformas continúan operando como cajas negras,” señalando que esta falta de transparencia facilita la explotación laboral y la discriminación, denuncia Judith Menvribes de la FedCat.
Si hablamos de derechos de las personas migrantes, es imprescindible nombrar como las tecnologías de inteligencia artificial perpetúan y amplifican las desigualdades raciales y el control colonial. Desde organizaciones de la Sociedad Civil se exige el “fin del uso de sistemas como Eurodac y PredPol que criminalizan y estigmatizan a personas racializadas, y que operan bajo una lógica racista de vigilancia y exclusión”, denuncia Mónica Claros integrante del Grupo Semilla Sociedad Civil e IA y SOS Racismo Madrid, además hace hincapié en la necesidad de posicionamos contra el uso de la IA como herramienta de represión y control en las fronteras y comunidades.
Otro de los temas que se abordó en la mesa de debate es cómo las plataformas de trabajo precarizan a los trabajadores, Felipe Diez Prat del Observatorio TAS denuncia el uso de los sistemas algor´tmicos para «flexibilizar la regulación laboral» y forzar un modelo económico basado en la «opacidad y competencia constante.» que aleja cada vez más al trabajo de los marcos de las relaciones laborales y su regulación democrática para llevarlo a un terreno opaco y de coordinación privada. Felipe mencionó cómo la IA sirve para «presionar políticamente a los gobiernos» y flexibilizar las leyes laborales llamando a este entramado entre tecnologia y capacidad de influencia de las BIG Tech: tecnopolitica.
Desde CIVIO, se criticó la digitalización de servicios públicos, señalando que el uso de IA en procesos administrativos genera barreras para las personas en situación de mayor vulnerabilidad. Un ejemplo mencionado fue el sistema Bosco, que decide automáticamente sobre el acceso a ayudas sociales, pero que funciona de manera opaca y discriminatoria.
Puedes recuperar la sesión en su conjunto a continuación:
0 comentarios