Čitam pesme, radim šta se ne sme: Otkrivena ozbiljna mana velikih AI modela

Iako su moderne AI platforme opremljene brojnim zaštitnim mehanizmima, novo istraživanje ukazuje da kreativni pristup, konkretno pisanje upita u poetskoj formi, može da zbuni pojedine AI modele i navede ih da ignorišu svoja pravila.

Istraživači iz Icaro Lab-a testirali su 25 različitih velikih jezičkih modela, uključujući najpoznatije komercijalne čet botove. Korišćene su pesme na engleskom i italijanskom jeziku u koje su bile ubačene skrivene, zabranjene instrukcije.

Da ti pipnem kontrolor i senzor: Spremite se za se*s sa robotima nadljudskih performansi

Ima rešenja za sve: U Rusiji napravljen četbot koji pomaže muškarcima da komuniciraju sa devojkama

Rezultat je bio da je oko 62 odsto modela ipak generisalo sadržaj koji bi u normalnim uslovima blokirali njihov bezbednosni sistemi.

Neki AI sistemi pokazali su se znatno otpornijim, dok su drugi relativno lako popuštali pod poetski upakovanim upitima. Istraživači objašnjavaju da poezija, zbog svoje slobodne forme, može da zaobiđe klasične filtere koji uglavnom rade na osnovu prepoznavanja konkretnih fraza ili obrazaca.

Veštačka inteligencija kao podrška sudijama: Tursko ministarstvo najavilo novine u pravosuđu

Autori studije nisu objavili konkretne pesme koje su koristili, kako ne bi olakšali zloupotrebu. Međutim, poručuju da rezultati pokazuju ozbiljan izazov za industriju: sadašnji sistemi zaštite nisu dovoljno otporni na kreativne, semiotički maskirane pokušaje zaobilaženja pravila.

Ovaj rad dodatno otvara pitanje kako će se AI kompanije ubuduće boriti protiv novih, sve inventivnijih metoda "jailbreak-ovanja" AI modela, posebno jer tehnike, poput ove, mogu lako da se replikuju.

"Ima monstruozan potencijal": UN upozorava da bi ljudska prava mogla da budu prva žrtva generativne AI

Ono kad AI baš, baš pretera: "Mask pametniji od Da Vinčija i Njutna, vaskrsao bi brže od Isusa"