Amazanov AI četbot u problemu: Odaje poverljive podatke

Amazon je nešto ranije pokrenuo svog AI četbota, pod nazivom Amazon Q, koji se već suočava sa problemima.

Amazon Web Services (AWS) je istakao da Q četbot nije dizajniran kako bi se direktno takmičio sa gigantima u ekosistemu alatki koje pokreće veštačka inteligencija (kao što je ChatGPT).

Umesto toga, pre će konkurisati Microsoftovom Copilot AI asistentu. Istaknuto je da će Amazon Q biti AI asistent koji će poslovanja koristiti za upite, koristeći sopstvene poslovne podatke.

Meta najavila veliki preokret u četbotovima: AI preuzima razgovor sa korisnicima

Primer ovoga bi bilo to što bi zaposleni pitali Q o relevantnim informacijama o kompaniji, pretražujući velike količine podataka.

Međutim, procurela dokumentacija otkriva da je Amazon Q počeo da "ozbiljno halucinira" i da odaje osetljive, tajne podatke.

Istaknuto je da se ne radi o malom curenju poverljivih podataka, a izveštaj sugeriše da su AWS inženjeri bili primorani da rade tokom čitavog vikenda kako bi ispravili grešku, označenu kao "sev 2". Pomenuta greška je odavala lokacije AWS data centara i još uvek neobjavljenih funkcija.

I dok curenje podataka onlajn generalno nije dobro ni za koga, posebno je loše za kompanije koje pokušavaju da sačuvaju svoje podatke što bezbednijim, jer svako curenje može da utiče na zaradu, gubljenje IP-a, oda tajne koje mogu da koriste konkurenciji i drugo.

Amazon se nije zvanično oglasio o postojanju navedenih problema.