Más de un centenar de organizaciones piden a la UE acabar con la laguna que supondrá la redacción actual del reglamento de IA

Publicado por AlgoRace en 7 de septiembre de 20237 de septiembre de 2023

Más de un centenar de organizaciones de toda la UE firman un comunicado impulsado por Access Now, The European Consumer Organisation (BEUC) y European Digital Rights (EDRi) solicitando a los legisladores poner fin a una laguna introducida en el reglamento que regirá el funcionamiento de la Inteligencia Artificial (IA), el cual se encuentra en su fase final de aprobación, y permitirá a los desarrolladores de estos sistemas decidir por sí mismos si consideran que un sistema de IA es de «alto riesgo».

En una primera fase del reglamento redactado, un sistema de IA se consideraba de «alto riesgo» si iba a utilizarse para uno de los fines de alto riesgo enumerados en el anexo III. Puedes leer el comunicado en inglés aquí.

La Unión Europea está entrando en la fase final de las negociaciones sobre su Ley de Inteligencia Artificial (IA Act en inglés), pero las grandes tecnológicas y otros agentes del sector han presionado para introducir una importante laguna en el proceso de clasificación de alto riesgo, lo que socava toda la legislación. Pedimos a los legisladores de la UE que eliminen esta laguna y mantengan un alto nivel de protección en la ley.

La Ley de IA de la UE tiene el potencial de mejorar la protección de las personas afectadas por los sistemas de IA. En su forma original, esbozaba una lista de «usos de alto riesgo» de la IA, incluidos los sistemas utilizados para controlar a los estudiantes, evaluar la solvencia de los consumidores, evaluar a los solicitantes de empleo y determinar quién tiene acceso a las prestaciones sociales.

La legislación exige a los desarrolladores y usuarios de estos sistemas de IA de «alto riesgo» que garanticen que sus sistemas son seguros y no presentan sesgos discriminatorios, y que faciliten información de acceso público sobre su funcionamiento. Sin embargo, estas ventajas se verán mermadas por una peligrosa laguna introducida en el proceso de clasificación de alto riesgo del artículo 6.

El Consejo y el Parlamento Europeo han introducido una laguna que permitiría a los desarrolladores de estos sistemas decidir por sí mismos si consideran que el sistema es de «alto riesgo».

En el proyecto original de la Comisión Europea, un sistema de IA se consideraba de «alto riesgo» si iba a utilizarse para uno de los fines de alto riesgo enumerados en el anexo III. Sin embargo, el Consejo y el Parlamento Europeo han introducido una laguna que permitiría a los desarrolladores de estos sistemas decidir por sí mismos si consideran que el sistema es de «alto riesgo»1.

Hay que rechazar estas modificaciones del artículo 6 y restablecer el proceso original de clasificación de riesgos de la Comisión Europea. Debe existir un proceso objetivo, coherente y jurídicamente seguro para determinar qué sistemas de IA son de «alto riesgo» en la ley de IA.

Si no se revierten los cambios del artículo 6, la Ley de IA permitirá a los desarrolladores decidir eximirse de todas las normas sustantivas para los sistemas de alto riesgo. En este estado, la Ley de IA:

• Introducirá una gran inseguridad jurídica en cuanto a qué sistemas se consideran de «alto riesgo»;
• Llevará a la fragmentación del mercado único de la UE, con diferentes interpretaciones de lo que lo que constituye «alto riesgo» en los distintos Estados miembros;
• Dará lugar a que las autoridades de los Estados miembros se enfrenten a graves dificultades para hacer cumplir la legislación,
  sin recursos suficientes para supervisar suficientemente la autoevaluación de los promotores;
• Permitir a los desarrolladores sin escrúpulos eludir los requisitos básicos de la ley que pretenden hacer sus sistemas más seguros y fiables. Esto pondría en desventaja a los responsables.

Instamos a los legisladores a revertir estos cambios y restablecer el lenguaje original de la Comisión en el artículo 6. La ley debe dar prioridad a los derechos de las personas afectadas por los sistemas de IA y garantizar que el desarrollo y uso de IA sean responsables y transparentes.2

1.El texto del Consejo propone excluir los sistemas de alto riesgo cuando el resultado del sistema sea «puramente accesorio con respecto a la acción o decisión pertinente que deba tomarse». El texto del Parlamento Europeo establece que un sistema es de alto riesgo sólo si plantea un «riesgo significativo» para los derechos fundamentales, la salud y la seguridad. Si el promotor considera que su sistema no plantea tal riesgo, debe notificarlo a una autoridad nacional, que dispone de 3 meses para responder.

2.150 organizaciones de la sociedad civil han pedido a las instituciones de la UE que garanticen que la Ley de Inteligencia Artificial protege los derechos de las personas durante los diálogos tripartitos sobre la Ley de Inteligencia Artificial.

Firmas:

1. Access Now
2. BEUC – The European Consumer Organisation
3. European Digital Rights (EDRi)
4. Access Info Europe
5. AlgoRace
6. Algorights
7. AlgorithmWatch
8. All Faiths and None
9. All Out
10. Alternatif Bilisim (AiA-Alternative Informatics Association)
11. Amnesty International
12. ARSIS Association for the Social Support of Youth
13. Article 19
14. Asia Indigenous Peoples Pact
15. Aspiration
16. Association for Legal Studies on Immigration (ASGI)
17. Association Konekt
18. Balkan Civil Society Development Network
19. Bits of Freedom
20. Bulgarian center for Not-for-Profit Law (BCNL)
21. Center for AI and Digital Policy (CAIDP)
22. Chaos Computer Club
23. Civil Rights Defenders
24. CIVIL SOCIETY ADVOCATES
25. CNVOS Slovenia
26. Coalizione Italiana Libertà e i Diritti civili
27. Comisión General Justicia y Paz de España
28. Controle Alt Delete
29. Corporate Europe Observatory (CEO)
30. D64 – Zentrum für Digitalen Fortschritt e. V.
31. DanChurchAid (DCA)
32. Danes je nov dan, Inštitut za druga vprašanja
33. Defend Democracy
34. Democracy Development Foundation Armenia
35. Digitalcourage
36. Digital Security Lab Ukraine
37. Digitale Gesellschaft
38. Digitalfems
39. DonesTech
40. dTest, o.p.s.
41. Eticas
42. EuroMed Rights
43. European Anti-Poverty Network (EAPN)
44. European Center for Not-for-Profit Law
45. European Civic Forum
46. European Movement Italy
47. European Network Against Racism (ENAR)
48. European Network on Statelessness
49. Fair Trials

50. Fair Vote UK
51. Fundación CIVES
52. Federación de Consumidores y Usuarios CECU
53. Federación de Sindicatos de Periodistas (FeSP)
54. Federation of German Consumer Organisations (Verbraucherzentrale Bundesverband –vzbv)
55. FIPR
56. Fritidsodlingens Riksorganisation
57. Gong
58. Greek Forum of Refugees
59. Health Action International
60. Homo Digitalis
61. Hungarian Civil Liberties Union
62. I Have Rights
63. IDAY Liberia Coalition Inc.
64. Institute Circle
65. Institute for Strategic Dialogue (ISD)
66. Irish Council for Civil Liberties
67. IT-Pol
68. Iuridicum Remedium
69. KEPKA- Consumers Protection Center
70. Kif Kif vzw
71. KOK German NGO Network against Trafficking in Human Beings
72. Konsumentvägladarnas Förening
73. Kosovar Civil Society Foundation (KCSF)
74. LA LIGUE DE L’ENSEIGNEMENT
75. La Strada International
76. Lafede.cat
77. LDH (Ligue des droits de l’Homme)
78. Legal Centre Lesvos
79. Liberty
80. Ligue des droits humains
81. Metamorphosis Foundation
82. Migrant Tales
83. Mobile Info Team
84. Moje Państwo Foundation
85. National Federation of Polish NGOs (OFOP)
86. National NGO Coalition
87. New Europeans International
88. Norwegian Consumer Council
89. Novact
90. OCU (ORGANIZACIÓN DE CONSUMIDORES Y USUARIOS)
91. Ökotárs – Hungarian Environmental Partnership Foundation
92. Open Knowledge Foundation Germany
93. Panoptykon Foundation
94. Partners Albania for Change and Development
95. PIC – Legal Center for the Protection of Human Rights and the Environment
96. Platform for International Cooperation on Undocumented Migrants (PICUM)
97. Polish Women’s Strike Foundation
98. Politiscope
99. Privacy First
100. Privacy International

101. Privacy Network
102. PRO, Pensionärernas riksorganisation
103. Promo-LEX Association
104. Prostitution Information Center
105. Protection International
106. Red en Defensa de los Derechos Digitales
107. REPONGAC
108. SKPF Pensionärerna
109. SOLIDAR & SOLIDAR Foundation
110. Spiralis
111. Statewatch
112. Stichting LOS
113. Superbloom (previously known as Simply Secure)
114. Swedish Asthma and Allergy Association
115. SYMBIOSIS
116. Symbiosis – Council of Europe School of Political Studies in Greece
117. The Swedish Consumers’ Association
118. Wikimedia Deutschland e. V.