Rasistički Gugl ukinuo opciju generisanja slika ljudi na aplikaciji Gemini

Kompanija Gugl je privremeno ukinula opciju generisanja slika ljudi na svojoj aplikaciji Gemini, dan pošto se izvinila zbog netačnosti u prikazima istorijskih scen koje je kreirao četbot.

"Već radimo na rešavanju nedavnih problema sa Geminijevom funkcijom generisanja slika. Dok se problem ne reši, pauziraćemo generisanje slika ljudi i uskoro ćemo objaviti poboljšanu verziju", saopštio je Gugl na platformi X.

Korisnici Geminija ove nedelje su na društvenim mrežama objavili snimke ekrana istorijskih scena gde bi trebalo da budu prikazani belci, a umesto toga su generisani ljudi različitih rasa.

Ovo je navelo kritičare da postave pitanja o tome da li kompanija preterano koriguje rizik od rasne pristrasnosti u svom modelu veštačke inteligencije, prenosi AP.

Prethodne studije su pokazale da AI generatori slika mogu da pojačaju rasne i rodne stereotipe, a bez filtera je veća verovatnoća da će prikazati muškarce svetlije puti kada se od njih traži da generišu osobu u različitim kontekstima.

Gugl je u sredu naveo da je "svestan da Gemini nudi netačnosti u nekim prikazima generisanja istorijskih slika" i da "radi na tome da odmah poboljša ove vrste prikaza".

Kako da obrišete istoriju Google pretrage koji god uređaj da koristite

Istraživač sa Univerziteta u Vašingtonu, Surodžit Goš, koji je proučavao pristrasnost u AI generatorima slika, rekao je da se slaže s odlukom Gugla da pauzira generisanje lica ljudi, ali je "u nedoumici oko toga kako su došli do ovog ishoda".

Uprkos tvrdnjama o takozvanom "brisanju belaca", što se sugeriše na društvenim medijim, Goš tvrdi da je njegovo istraživanje pokazalo suprotno i istakao je da će biti potrebno vreme da se stvori generator koji tačno predstavlja ljude.

I to se desilo: Google Maps se izvinio nakon što je ljude poslao u nedođiju