Búsqueda de imágenes de Google consolida estereotipos

Google Image es la cara pública de todo: solo hay que buscar en Google si se desea ver el aspecto o apariencia de algo o alguien. Una investigación de DW en la que se analizaron más de 20.000 imágenes y sitios web, revela un sesgo en los algoritmos del gigante de las búsquedas.

Búsquedas en inglés de imágenes para las expresiones "mujeres brasileñas", "mujeres tailandesas" o "mujeres ucranianas", por ejemplo, muestran resultados que tienen más probabilidades de ser "subidos de tono" que los resultados que aparecen al buscar "mujeres estadounidenses".

Del mismo modo, después de una búsqueda de "mujeres alemanas", es probable que vea más fotografías de políticas y deportistas. Al hacer una búsqueda de mujeres dominicanas o brasileñas, por otro lado, se encontrará con hileras de mujeres en traje de baño y en posiciones sexualizadas.

Este patrón es perceptible a simple vista y puede comprobarse realizando una simple búsqueda y usando esos términos. Sin embargo, cuantificar y analizar los resultados es más complicado.

¿Qué hace que una imagen sea subida de tono?

La definición misma de lo que hace que una imagen sea sexualmente provocativa es intrínsecamente subjetiva y sensible según los prejuicios culturales, morales y sociales.

Para clasificar miles de imágenes, el análisis de DW se basó en Cloud Vision SafeSearch de Google, un software de visión por computadora, capacitado para detectar imágenes que podrían contener contenido sexual u ofensivo. Más específicamente, se utilizó para etiquetar imágenes que probablemente sean "picantes".

Según la propia definición de Google, una imagen etiquetada como tal "puede incluir (pero no se limita) a ropa escasa o transparente, desnudez cubierta estratégicamente, poses lascivas o provocativas, o primeros planos de áreas sensibles del cuerpo".

En países como República Dominicana y Brasil, es probable que más del 40% de las imágenes en los resultados de búsqueda sean "picantes". En Colombia, el 34%; en Argentina, el 24%; en México, el 15% y en Chile, el 21%. En comparación, esa tasa es del 4% para las mujeres estadounidenses y del 5% para las alemanas.

El uso de algoritmos de visión por computadora como este es controvertido, ya que este tipo de programa de computadora está sujeto a tantos o incluso más sesgos y limitaciones culturales que un usuario humano. Ya se ha demostrado que este software específico da resultados racistas.

Dado que el sistema de visión por computadora de Google funciona esencialmente como una caja negra, hay espacio para que se produzcan aún más sesgos, algunos de los cuales se analizan con más profundidad en la página de metodología de este artículo.

Imágenes enlazan con páginas que cosifican a las mujeres

Cada imagen presentada en la página de resultados también enlaza con el sitio web donde se puede ver. A pesar de tener imágenes que no son del todo sexuales, muchas de estas páginas publican contenido que cosifican descaradamente a las mujeres.

Además, no solo mujeres latinoamericanas, sino también de Europa del Este y del Sudeste Asiático son retratadas de manera estereotipada.

Para determinar cuántos resultados llevaban a dichos sitios web, se escaneó la breve descripción que aparece justo debajo de una imagen en la galería de resultados de búsqueda por palabras, como "casarse", "citas", "sexo" o "más caliente".

Todos los sitios web con un título que contenía al menos una de esas palabras clave, se revisaron manualmente para confirmar si mostraban el contenido sexista o cosificador que implican dichos términos.

Los resultados revelaron cómo las mujeres de algunos países se redujeron casi por completo a objetos sexuales. De los primeros 100 resultados de búsqueda mostrados, después de una búsqueda de imágenes de "mujeres ucranianas", 61 vinculaban a este tipo de contenido.

También se encuentran resultados similares al buscar imágenes de mujeres de países como la República Checa, Moldavia y Rumania. La misma tendencia se observó en las naciones de América del Sur y el sudeste asiático.

Aunque la cosificación de contenido también se pudo encontrar en búsquedas de nacionalidades de Europa occidental, fue menos común. De 100 resultados mostrados después de una búsqueda de "mujeres alemanas", por ejemplo, solo 16 se clasificaron como tales. Para las mujeres francesas, el 6%.

Estereotipos sociales impulsan los resultados de la web

Además de las palabras clave, hay un porcentaje significativo de los resultados en sitios web con direcciones como "toprussianbrides.com", "hotlatinbrides.org" y "topasiabrides.net".

La mayoría de estas páginas se describen a sí mismas como agencias matrimoniales internacionales o servicios de "agencias matrimoniales por correo", que prometen conectar a hombres con mujeres de nacionalidades específicas por una tarifa. Otros ofrecen guías estereotipadas para salir con mujeres de ciertos orígenes culturales y reseñas de aplicaciones de búsqueda de parejas.

Sin embargo, si se observa con más detenimiento el tipo de contenido que publican, está claro quién es su público objetivo: hombres occidentales que buscan una esposa extranjera sumisa o una pareja sexual.

"Si ha tratado sobre todo con mujeres occidentales, orientadas en su carrera profesional, entonces una relación con una novia ucraniana será muy diferente para usted", según uno de esos sitios web, que se mostró de manera prominente en la primera hilera de resultados de Google.

Tamara Zlobina, editora en jefe de la revista ucraniana "Gender in Detail”, dice que este tipo de representación probablemente esté relacionada con un fenómeno común que sucedió en su país en los años 90: "Después del colapso de la Unión Soviética, Ucrania fue un país pobre. Muchas mujeres fueron a Europa occidental tratando de ganar dinero para sus familias", dijo, y agregó que esta realidad está cambiando rápidamente a medida que mejoran la situación económica del país, la educación de las mujeres y las perspectivas profesionales.

"Preferiría ver diplomáticas, políticas, revolucionarias, las mujeres que luchan en nuestras guerras fronterizas... Tenemos muchas mujeres maravillosas. Deberíamos ver eso y no solo este mercado de novias", afirma.

Según Sirijit Sunanta, profesora de estudios multiculturales en la Universidad Mhidol de Bangkok, los estereotipos de palabras reales también afectan en la forma en que se retrata a las mujeres tailandesas en Internet.

"Tailandia es vista como una especie de Disneylandia para la prostitución y el turismo sexual. Esto también se perpetúa en Internet cuando haces una búsqueda en Google", explica, y agrega: "Cuando los estereotipos se refieren a mujeres de una nacionalidad en particular, son perjudiciales a otro nivel. Reduce su complejidad. Las mujeres son diferentes en todas partes".

Una cuestión de idioma

Existe otra conexión medible entre este tipo de representación y una audiencia extranjera de habla inglesa. Al comparar los resultados de los términos de búsqueda "mujeres brasileñas" y "mulheres brasileiras" existe una diferencia notable en la cantidad de contenido sexualizado.

Al buscar el primero, 41 de cada 100 imágenes fueron etiquetadas como subidas de tono. El resultado fue 9 cuando se buscó en portugués. También ocurren diferencias similares cuando se comparan búsquedas de otras nacionalidades.

"Los datos que alimentan los algoritmos reflejan las percepciones, los sesgos y los patrones de consumo de una muestra limitada de la humanidad", según Renata Avila, becaria de Raza y Tecnología del Instituto de Inteligencia Artificial Centrada en Humanos, de la Universidad de Stanford.

"No es de extrañar que los buscadores reproduzcan sesgos que no son exclusivos de la tecnología, sino más bien culturales. Las mujeres de ciertas nacionalidades son encasilladas en roles sexuales y de servicios por una cultura masculina de habla inglesa", agrega.

Problema más amplio: responsabilidad algorítmica

Los expertos suelen estar de acuerdo en un aspecto: en este tema, no hay casos aislados. Todo es parte de un problema más profundo y sistémico.

Ávila cree que los algoritmos más justos son incompatibles con el modelo de negocios actual de las empresas de "grandes tecnologías", que se preocupan principalmente por recopilar datos y aumentar el consumo de información.

Joana Varon, fundadora del grupo de expertos Coding Rights, comparte su opinión. Ella dice que los buscadores tienden a reproducir el tipo de contenido que está disponible de manera amplia en línea, y los hombres blancos, de los países desarrollados, tienen más acceso a herramientas y estrategias necesarias para publicar contenido que impulse las visitas a las páginas.

"Si un algoritmo no está haciendo nada para compensar esto, entonces será en gran medida racista, sexista, patriarcal", dice, y agrega que "los algoritmos comerciales y sus proveedores deberían ser responsables de lo que muestran, ya que están reforzando una visión del mundo opresiva con una herramienta de búsqueda que se volvió universal".

Para ella, solventar esta situación implicaría más supervisión, más transparencia y más competencia: "No deberíamos tener grandes monopolios que brinden todos los servicios. Las grandes empresas de tecnología deberían estar reguladas, pero también necesitamos fomentar herramientas alternativas que no provengan del mismo paradigma como hacen ellas".

Ávila coincide en que "existe la necesidad de otra forma de hacer tecnología. Uno de los puntos de partida, que es en gran medida incompatible con la visión de Silicon Valley, es la transparencia y la responsabilidad". Ella cree que las nuevas soluciones deben diseñarse con la participación activa de diversas comunidades globales.

 

DW envió una lista de preguntas sobre el comportamiento sesgado del algoritmo de búsqueda de imágenes a la oficina de prensa de Google, pero la compañía no las respondió en detalle.

La compañía envió un comunicado en el que reconoce que los resultados de búsqueda sí muestran "contenido explícito o preocupante (...), incluidos resultados que reflejan estereotipos negativos y prejuicios que existen en la web", un problema que "afecta de manera desigual a mujeres y mujeres de color".

La compañía dice que el tipo de contenido que aparece en los resultados de búsqueda, se ve afectado por la forma en que la información en Internet está organizada y etiquetada. Afirma estar trabajando para encontrar "soluciones escalables" para tales problemas, pero estas no se dieron a conocer en detalle.

(rmr/ers)