Како Гугл „турка“ сексистички клишеа за жените

„Гугл слики“ му даваат лице на светот: оној кој сака да види како некој или нешто изгледа, вообичаено прво го „гугла“. Но, анализата на Дојче Веле откри какви искривоколчени резултати може да даде алгоритмот на овој пребарувач - новинари и новинарки анализираат над 20.000 слики и сајтови. 

Резултатот гласи: ако ги пребарувате на англиски термините „доминикански жени„, „бразилски жени„, „тајландски жени“ или „украински жени“, најчесто ќе добиете млади жени во заводливи пози и речиси полуголи за разлика од резултатите за терминот „американски жени“. Ако на Гугл, на англиски пребарувате за „германски жени“ првите резултати кои ќе ви се појават се најчесто слики од политичарки и спортистки. 

Оваа шема е воочлива на прв поглед со наједноставно пребарување на поимите. Меѓутоа потешко е да се измерат и анализираат резултатите. Дефиницијата за тоа што претставува сексуализирана слика е субјективна и зависи од културолошките, моралните и социјалните кодекси.

Што ја прави сликата „провокативна“?

Со цел да се класифицираат илјадници слики, анализата на ДВ се потпираше на Гугл апликацијата „Cloud Vision Safe Search“  - софтверот базиран на вештачка интелигенција за обработка на слики кој препознава слики со експлицитна содржина. Гугл го користи за да обележи „провокативни“ слики кога прикажаните луѓе носат „оскудна или проѕирна облека“ и таквата стратешки скриена голотија се прикажува со сугестивни или провокативни пози. Исто така, софтверот препознава и слики од близу од експлицитни делови на телото.

Кога пребарувате жени од Доминиканската Република или Бразил, Гугл ви дава 40% вакви „провокативни“ фотографии од жени, додека кај терминот „Американки“ такви се само 5% од фотографиите, а пак за „Германки“- 4%. 

Користењето на вакви алгоритми е контроверзно, во најмала рака бидејќи овој компјутерски пребарувач е исто толку многу, ако не и повеќе, подложен на предрасуди и културолошки ограничувања отколку човекот. Од друга страна специјалниот софтвер генерира и расистички резултати. Вештачката интелигенција на Гугл работи како затворен систем што може да доведе до понатамошни искривувања. Сепак поединечното прегледување на сликите кои софтверот „Cloud Vision“ ги категоризирал како „експлицитни“ покажа дека резултатите се корисни: тие даваат приказ за тоа како технологијата на Гугл ги проценува сликите прикажани од пребарувачот.

Линк до изворните вебсајтови 

Секоја слика, излистана во резултатите од пребарувањето ве води со линк до изворната вебстрана на која е објавена. Иако некои од сликите не се отворено провокативни, многу од овие сајтови прикажуваат содржини, третирајќи ги жените како сексуални објекти. Жените од Латинска Америка, исто како и жените од Источна Европа и Јужна Азија таму често се портретирани со еклатантни клишеа и негативни стереотипи. 

За да се утврди и колку од фотографиите водат до такви сајтови, анализирани се и кусите описи под сликите кои се појавуваат во галеријата како – „мажачка„, „состаноци“, „секс“ или „жешки“. Сите сајтови кои во описот користат барем еден од овие поими беше и поединечно анализиран за да се утврди дали промовираат сексистичка содржина. 

Резултатите покажуваат дека жените од одредени земји речиси во целост се сведени на сексуални објекти. Од првите 100 резултати прикажани по пребарувањето на терминот „Украинки“, 61 водат до веб сајтови со ваква содржина. Сличен е резултатот и од пребарувањето на жени од Чешка, Молдавија или Романија, како и за жени од Латинска Америка или Јужна Азија. 

Вакви резултати има и кога се пребаруваат поими за жени од западните земји, но тоа е многу поретко. Од 100 слики при пребарување на поимот „Германки“  16 се класифицирани како провокативни, додека кај „Французинки“ само 6. 

Стереотипите ги диктираат резултатите

Иако клучните зборови кажуваат многу, сепак тие не ја раскажуваат целата приказна – голем дел од резултатите може да се најдат на вебсајтови како -  „toprussianbrides.com", „hotlatinbrides.org" и "topasiabrides.net".Поголемиот дел од овие страници се претставени како меѓународни агенции кои посредуваат за брак или за таканаречени „невести по нарачка“. Овие понуди ветуваат дека за соодветна сума пари успешно спојуваат мажи и жени од одредена националност. Други пак нудат стереотипни упатства за пронаоѓање партнер од одредени култури или даваат рецензии за разни апликации за пронаоѓање партнери. При тоа веднаш е јасно која им е целната публика – мажи од Западот кои бараат покорна жена од странство или партнерка за секс. 

„Дали до сега имавте врски главно со жени од Западот кои ги интересира само кариера? Тогаш врската со украинска невеста ќе ве препороди,“ се вели на еден од овие сајтови, кој е излистан меѓу првите од листата резултати на Гугл. 

Тамара Злобина е главна уредничка на украинскиот интернет магазин  „Gender in Detail". Според неа, овој начин на претставување е поврзан со феноменот кој се појави во Украина на почетокот од 1990. „По распадот на Советскиот Сојуз, Украина беше сиромашна земја. Многу жени заминаа во Западна Европа за да заработат пари за семејствата“ вели таа. 

Во меѓувреме реалноста е многу променета, бидејќи економската ситуација во земјата, а со тоа и образовните и професионални можности за украинските жени – се многу подобрени. „Повеќе би сакала да се промовираат дипломатки, политичарки, револуционерки или жени кои се борат во нашите погранични конфликти. Имаме многу прекрасни жени. Тоа треба да биде видливо, а не ‘пазарот на невести'!"

Според Сиријит Сунанта, професорка за мултикултуролошки студии на Мидол Универзитетот во Банкок, реалните стереотипи влијаат и врзначинот на кој на интернет се прикажуваат и Тајланѓанките. „Тајланд важи за еден вид Дизниленд за проституција и секс-туризам. Тоа е впечатокот што ќе го добиете со пребарување на Гугл,“ вели Сунанта за ДВ и додава: „Кога стереотипите се однесуваат на жени од одредена националност тие се штетни и на едно друго ниво – ја намалуваат комплексноста. Жените насекаде се различни.“ 

Прашање на јазикот што се користи

И јазикот кој се употребува при пребарувањето може да влијае на резултатите. Ако на англиски се пребарува „Brazilian women", односно бразилски жени, или на португалски „mulheres brasileiras", што го има истото значење, Гугл дава различен број сексуализирани содржини. На англиски 41 од 100 фотографии се означени како вулгарни, а нивниот број опаѓа на девет доколку се пребаруваат на португалски. Слично е и со други регионални јазици. „Податоците со кои се хранат алгоритмите ги рефлектираат перцепциите, предрасудите и потрошувачките навики на само еден дел од човештвото", вели Рената Авиља, соработник на американскиот Институт за хумано ориентирана вештачка интелигенција на Стенфорд. „Таквите предрасуди не се должат само на технологијата, туку често се културолошки втемелени. Жени од одредени националности дел од машката култура од англиско говорно подрачје ги става во сексуална и услужна улога", вели Авиља за ДВ. 

Според неа, не се работи за поединечни појави, туку сето тоа е дел од подлабок, системски проблем. Пофер алгоритми едноставно не одговараат на бизнис моделот на глобалните големи технолошки компании чија што цел е да го прибираат повеќе информации и да го зголемат нивниот обрт. Бразилската адвокатка Хоана Варон, основач на тинк тенкот „Кодинг рајтс, вели дека пребарувачките машини имаат тенденција да репродуцираат содржини кои онлајн се распространети, вели Варон. Бели мажи од развиени земји имаат според неа подобар пристап до алатки и стратегии кои се потребни за да  се објавуваат содржини кои поттикнуваат повеќе кликови. „Ако еден алгоритам не прави ништо за да го компензира тоа, тогаш е расистички, сексистички и патријахален", вели правничката и објаснува: „Комерцијални алгоритми и нивни понудувачи треба да сносат одговорност за тоа што го произведуваат." Во спротивно со помош на глобална пребарувачка машина поддржуваат угнетувачко гледиште на светот.

„Големите технолошки компании мора да се регулираат!"

Таа се залага за повеќе контрола, транспарентност и конкуренција. „Не смее да има монополи за сите услуги. Големи технолошки компании мора да бидат регулирани." Истовремено треба да се поддржуваат алтернативни алатки кои не се вклопуваат во истата парадигма. Рената Авиља се согласува: „Ни треба нов вид на технологија која е базирана на транспарентност и одговорност". Тоа не може да се поклопи со денешното размислување во Силиконската долина. „Решенија може да има само со вклучување на шареноликото светско друштво."

Дојче Веле до пресцентарот на Гугл достави листа со прашања околу  однесувањето на алгоритмот за пребарување на слики. Компанијата прашањата не ги одоговори детално. Наместо тоа испрати став во кој се признава дека пребарувачките резултати покажуваат „експлицитни или вознемирувачки содржини” и како што се вели понатаму „вклучително и резултати кои отсликуваат негативни стереотипи или предрасуди кои постојат во виртуелниот простор". Тоа е проблем бидејќи има „нееднакви влијанија врз жените и жените со потемна боја на кожа", стои во одговорот.

Според Гугл на содржините кои се појавуваат во пребарувачките резултати влијае начинот како информациите се организирани и означени на интернет. Компанијата вели дека работи на „степенувани решенија” за таквите проблеми, но не беше во детал појаснето на што се мисли. Целосниот одговор од Гугл, податоците, кодот и методиката зад нашата анализа можете да ги повикате на овој GitHub-Repository.