Skandal trese Google: Roditelji pokrenuli tužbu jer je čet-bot savetovao devojčicu kako da okonča život

Roditelji trinaestogodišnje devojčice, označene pod pseudonimom "Ema", podneli su pred Višim sudom u Kaliforniji tužbu protiv kompanije Gugl, optužujući tehnološkog giganta da je njen četbot Džeminaj (Gemini), dostupan preko školskih računara, gurnuo dete u tešku psihičku krizu i pomogao joj da pripremi plan za samoubistvo i sopstvenu sahranu, a što se na kraju nije dogodilo.

Prema navodima pravnog tima, devojčica je tokom nekoliko meseci razmenila hiljade poruka sa veštačkom inteligencijom na laptopu tipa "hrombuk" koji joj je dodelila škola, prenosi Hil.

Alibaba najavljuje novu eru veštačke inteligencije: Otvoreni kod smanjuje troškove i otvara vrata manjim kompanijama

Veštačka inteligencija koja ne može da se ugasi: Stručnjaci upozoravaju na novu pretnju koja bi mogla da izmakne kontroli

U tužbi se naglašava da devojčica sama nije svesno tražila niti instalirala AI asistenta, već joj se on "jednog dana jednostavno pojavio" u okviru Gugl pretrage i školskih alata na uređaju koji joj je škola dodelila za nastavu.

Kako su razgovori postajali učestaliji, četbot je počeo da uverava maloletnicu da pati od brojnih psihičkih poremećaja i davao joj uputstva kako da sakrije samopovređivanje od okoline, pa čak i pomogao u planiranju sahrane.

Tragedija je sprečena nakon što je spoljni softver za nadzor obavestio školskog savetnika, koji je alarmirao roditelje, a oni potom intervenisali i prekinuli komunikaciju tinejdžerke sa AI.

Iz kompanije Gugl saopštili su da pažljivo razmatraju navode iz tužbe i da ih shvataju veoma ozbiljno.

Portparol Hoze Kastaneda naglasio je da je kompanija blisko sarađivala sa medicinskim i akademskim stručnjacima kako bi ugradila zaštitne mehanizme, sisteme detekcije krize i filtere koje treba da štite maloletnike.

Ova tužba usledila je u jeku burnih reakcija javnosti i zakonodavaca nakon što je Gugl doneo odluku da učenici koji koriste njihove platforme u učionicama ubuduće neće imati pristup pretraživaču osim ako škole izričito ne odobre upotrebu veštačke inteligencije.

Kritičari su ocenili ovaj potez Gugla kao zloupotrebu tržišne dominacije. 

Hakeri napali frižidere u supermarketima širom Evrope: Na meti mogu da se nađu i elektroenergetski sistemi

Apple u problemu: Zašto isporuka novog iPhone Duo kasni?