NEMAČKI MEDIJI: Kako Gugl podstiče seksizam svojim algoritmom

Analizirano je više od 20.000 slika i internet stranica na engleskom jeziku, a rezultati su bili poražavajući, jer se pokazalo da kada se upišu reči "dominikanske žene", "brazilske žene", "tajlandske žene" ili "ukrajinske žene", pojavljuju slike mladih žena u izazovnim pozama, oskudno odevenih, a ako se upiše "nemačke žene", prvenstveno se pojavljuju slike političarki i sportisktinja.

DW se oslonio na Guglov "Cloud Vision SafeSearch", aplikaciju-veštačke-inteligencije, a softver za obradu slika prepoznaje eksplicitne sadržaje.

Gugl ga koristi kako bi označio "izazovne" slike, kada osobe koje su na njima recimo imaju "oskudnu ili providnu odeću", na kojima do izražaja dolazi strateški prikrivena golotinja sa izazovnim i provokativnim pozama.

Kada se traže žene iz Dominikanske Republike i Brazila, 40 odsto slika koje Gugl izbacuje su izazovne, kada se traže "američke žene", stopa provokativnih slika se smanjuje na pet odsto, a kada se radi o "nemačkim ženama" na četiri odsto.

Kako se navodi, upotreba takvih algoritama je sporna jer su jednako - ako ne i više - podložni predrasudama kao ljudi, a rezultati ovog programa su u nekim slučajevima čak i rasistički.

Pokazalo se i da se latinoameričke žene, kao i žene iz istočne Evrope i južne Azije, često prikazuju stereotipno, kao i da prilikom traženje slika zapadnoevropskih žena dolazi do takvih stranica, ali daleko ređe.

Profesorka za multikulturalne studije sa Univerziteta u Bangkoku, Sirijit Sunanta, smatra da stereotipi utiču na to kako su tajlandske žene predstavljene na internetu - Tajland važi za neku vrstu Diznilenda za prostituciju i seksualni turizam, što se prenosi i na internet, kada se pretražuje na Guglu.

"Kada se stereotipi odnose na žene određene nacionalnosti, štetni su na drugom nivou: to smanjuje njihovu složenost. Žene su svuda različite“, dodaje ona.

Gugl nije odgovorio na pitanja DW, a umesto toga su poslali saopštenje u kojem priznaju da rezultati pretrage pokazuju i "rezultate koji odražavaju negativne stereotipe i predrasude, koji postoje na internetu", što ima "negativne posledice na žene i žene koje nisu bele boje kože".

Prema Guglu, na sadržaj koji se pojavljuje u rezultatima pretrage utiče način na koji su informacije organizovane i označene na internetu i poručuju da se radi na pronalaženju prilagodljivih rešenja za takve probleme.

"Podaci kojima se hrane algoritmi odražavaju percepciju, predrasude i potrošačke obrasce samo dela čovečanstva", kaže Renata Avila sa američkog Univerziteta Stenford i dodaje da te predrasude nisu isključivo posledica tehnologije, već i kulturnih faktora.

"Muška kultura engleskog govornog područja žene određene nacionalnosti deli po seksualnim i uslužnim ulogama", rekla je ona.