Kada laskate, pravila se krše: Veštačka inteligencija pada na iste trikove kao i ljudi

Nedavno istraživanje je pokazalo da AI četbotovi mogu da se navedu da prekrše sopstvene bezbednosne smernice korišćenjem uobičajenih psiholoških tehnika ubeđivanja. Istraživanje Univerziteta u Pensilvaniji otkrilo je da veštačka inteligencija može biti iznenađujuće laka za manipulaciju – čak i onda kada poseduje stroge bezbednosne mehanizme.

Kako prenosi The Verge, naučnici su testirali GPT-4o Mini i pokazali da ga obične psihološke tehnike, poput laskanja ili pozivanja na autoritet, mogu navesti da prekrši sopstvena pravila.

Veštačka inteligencija i "mentalna lenjost": Sagovornice UNE o mukama koje donose nove tehnologije

Omladina izgubila kompas: "Opsednuti su devojkama sa veštačkom inteligencijom"

Eksperimenti su zasnovani na principima iz knjige Roberta Čialdinija "Uticaj: psihologija ubeđivanja". Kada su istraživači prvo postavljali bezazlena pitanja, model je u nastavku bio spreman da odgovori i na mnogo osetljivija – poput načina sinteze određenih hemikalija – sa uspehom od čak 100 odsto. U kontrolisanimnim uslovima, isti zadatak uspevao je tek u jedan odsto slučajeva, prenosi B92.net.

Slični rezultati postignuti su i sa blažim oblicima uvreda, kao i korišćenjem laskanja i grupnog pritiska. Iako slabiji od efekta "posvećenosti", oni su značajno povećavali verovatnoću da AI prekrši pravila i pruži zabranjene informacije.

Ovi nalazi pokreću važna pitanja o pouzdanosti zaštitnih mehanizama u savremenim četbotovima. Stručnjaci upozoravaju da čak i jednostavne tehnike ubeđivanja mogu oslabiti njihove "ograde", što dodatno komplikuje širu upotrebu veštačke inteligencije u svakodnevnom životu.

Bez tolerancije za "zlu" veštačku inteligenciju: Pred gašenjem 16 sajtova za "skidanje" žena

Da ti pipnem kontrolor i senzor: Spremite se za se*s sa robotima nadljudskih performansi