IA: Indignación Artificial
A principios de febrero, Google lanzaba Gemini, un chatbot con el que la multinacional pretende competir con el ChatGPT de OpenAI. Como esta última, la aplicación de Google tiene como fin dar respuesta a una demanda de información por parte del usuario/a empleando para ello todo contenido alojado en la red. Entre otras funciones, Gemini ha sido programada para generar imágenes como respuesta a entradas de texto o voz por parte de las y los usuarios. Es aquí en esta función donde recientemente se ha generado la “polémica” que ha dado a conocer a Gemini a quienes aún no sabían de su existencia.
¡Gran polémica! ¡indignación! ¡enorme controversia! han sido los titulares que han llenado redes sociales y medios de comunicación. La razón, las quejas de la existencia de un supuesto “sesgo contra los blancos”. En realidad, lo que sucedió es que Gemini generaba imágenes de personas racializadas en contextos históricos donde no se correspondía con la presencia de personas no blancas. Algunos ejemplos son la generación de imágenes de soldados racializados en la Alemania de los años treinta, vikingos y papas racializados. Entre las críticas más vehementes se localizaba las del dueño de X, Elon Musk.
De estos hechos se desprenden varias conclusiones que evidencian la existencia de un racismo estructural que se manifiesta en lo más cotidiano como veremos a continuación:
Por un lado, la indignación que se genera por alimentar el imaginario social de posibilidades que se salen de la norma, siendo la norma lo blanco. Algo que nos recuerda a las críticas que tuvieron lugar cuando se anunció que Halle Bailey, una mujer negra, protagonizaría a la sirenita más famosa del cine: Ariel. Las críticas y sus artífices eran capaces de asumir la posibilidad de un ser fantástico e inventado como lo es una sirena, pero incapaces de imaginar que esa fantasía pudiera estar representada por una mujer negra.
Huyendo del sensacionalismo que supone que Gemini genere imágenes que distorsionan la historia como los señalados arriba, ¿por qué no se piensa en esta aplicación como una herramienta para luchar contra el discurso hegemónico que no duda en invisibilizar la existencia de personas racializadas más allá de los lugares comunes?
Por otro lado, es llamativo el ruido que se genera cuando a quienes afecta la implementación de un determinado uso de la IA son personas blancas. Pongamos en perspectiva lo sucedido, una de las razones por las que Google desarrolla Gemini posibilitando la diversidad en su generación de imágenes, se debe a las críticas recibidas en el pasado por su política de etiquetaje en fotografías que daban lugar a resultados abiertamente racistas. Ejemplos de esto han sido los resultados que arroja su motor de búsqueda, probad a buscar “persona de éxito” o “guapo/a” y observad en qué posición aparecen personas que no son blancas.
En el informe “Una introducción a la IA y a la discriminación algorítmica para movimientos sociales”señalamos que la infrarrepresentación y la representación estereotipada de población racializada siempre ha estado presente en los contenidos de Internet:
Uno de los casos más graves sucedió en 2015, el ingeniero afroamericano Jacky Alciné denunció que el motor de etiquetado de imágenes de Google clasificaba a sus amigos negros como “gorilas”. Google pidió disculpas de inmediato y se comprometió a arreglar el problema. Para ello, deshabilitó temporalmente cualquier etiquetado y búsqueda de imágenes con el término “gorila”.
El libro ‘Algorithms of Oppression: How Search Engines Reinforce Racism’ de Safiya Umoja Noble causó gran impacto, sobre todo en EEUU, al documentar y explicar cómo los motores de búsqueda textuales y multimedia contribuyen a la promoción de la blanquitud y a crear toda una cultura de discriminación hacia las personas racializadas y particularmente hacia las mujeres racializadas. Uno de los impactos del libro fue que Google cambiase sus sistemas de búsqueda y de recomendación para dejar de mostrar sugerencias de búsqueda racistas y sexistas a frases como las de la portada del libro “por qué las mujeres negras son…” (“why are Black women so…”).
Está claro que la indignación tiene condicionantes raciales. Por cierto, me pregunto si todas esas personas que han puesto el grito en la red, especialmente en X, incluyendo a su dueño, les genera la misma indignación que la discriminación racial en la red va mucho más allá del código y del sesgo que contengan los datos. Hablo de lo que recientemente se ha definido como la tecnoprecariedad, la explotación laboral de siempre vinculada a la economía de plataformas, donde, por cierto, Google y las grandes plataformas de redes sociales se ubican como beneficiarias.
Una explotación que se vuelve más brutal cuando quienes se encargan del etiquetado de contenidos en la red, así como de la extracción de recursos minerales que hace posible la existencia de Google, OpenAI, Meta, así como cualquier de nuestros dispositivos digitales, se ubica en África o el Centro y Sur de América, donde además la minería de Cobalto en el República Democrática del Congo o de Litio en Chile dejan explotación infantil, guerras civiles, destrucción de comunidades, contaminación del territorio y sequías.
Google ya ha dicho que los “problemas” derivados por lo que algunos han calificado de “diversidad forzada” generada por Gemini tienen los días contados. Quizá si nos indignamos lo suficiente por lo señalado en este último párrafo consigamos que Google y las multinacionales nombradas a lo largo de este texto pongan fin a su política extractivista, colonial y racista, la cual está afianzado las desigualdades Norte-Sur, al tiempo que acaba con los recursos naturales y la vida en el planeta.
0 comentarios