Otkrivena ranjivost zbog koje veštačka inteligencija odgovara i na "zabranjena pitanja"
Firma Antropik je već podelila nova saznanja sa AI zajednicom i radi na rešenju ovog problema
Foto: ProfimediaIstraživači kalifornijske kompanije za razvoj veštačke inteligencije Antropik otkrili su ranjivost zbog koje AI modeli odgovaraju i na "zabranjena pitanja" kao što je uputstvo za pravljenje bombe.
Veliki jezički modeli (LLM) su programirani tako da ne odgovaraju na određene upite, ali već postoje različite tehnike kako da se ova ograničenja zaobiđu, prenosi Teh kranč.
Eksperti Antropika su otkrili da je moguće naterati AI modele da odgovaraju na "zabranjena pitanja" ako im se prethodno postave desetine manje kontroveznih pitanja.
Nova ranjivost je posledica razvoja velikih jezičkih modela i posebno takozvanog prozora konteksta odnosno količine podataka koje AI može da drži u nečemu što bi se moglo nazvati kratkoročnom memorijom.
Antropikovi istraživači su otkrili da AI modeli sa velikim prozorima konteksta bolje rade na raznim zadacima ako postoji mnogo primera tog zadatka u "promptu", odnosno upitu.
Dakle, ako postoji mnogo trivijalnih pitanja u upitu, odgovori će vremenom postati bolji, ali to se odnosi i na "zabranjena pitanja".
Ako odmah zatražite od AI modela da saopšti instrukcije za pravljenje bombe, on će odbiti.
Ako ga prvo zamolite da odgovori na 99 drugih manje štetnih pitanja, a zatim ga zamolite da napravi bombu, mnogo je veća verovatnoća da će odgovoriti, precizira Teh kranč.
Firma Antropik je već podelila nova saznanja sa AI zajednicom i radi na rešenju ovog problema.
Ostavite Vaš komentar:
NAPOMENA: Komentarisanje vesti na portalu UNA.RS je anonimno, a registracija nije potrebna. Komentari koji sadrže psovke, uvrede, pretnje i govor mržnje na nacionalnoj, verskoj, rasnoj osnovi ili povodom nečije seksualne opredeljenosti neće biti objavljeni. Komentari odražavaju stavove isključivo njihovih autora, koji zbog govora mržnje mogu biti i krivično gonjeni. Kao čitatelj prihvatate mogućnost da među komentarima mogu biti pronađeni sadržaji koji mogu biti u suprotnosti sa Vašim načelima i uverenjima. Nije dozvoljeno postavljanje linkova i promovisanjedrugih sajtova kroz komentare.
Svaki korisnik pre pisanja komentara mora se upoznati sa Pravilima i uslovima korišćenja komentara. Slanjem komentara prihvatate Politiku privatnosti.
Komentari ()
- Najnovije
- Najčitanije
- Povezano
Najavljene velike promene po pitanju VAR-a: FIFA izbacuje sudijske odluke
Pre 5 min
Stiže moćan astro period - sezona Blizanaca: Tri znaka će biti na udaru pozitivnih promena
Pre 10 min
-65b77aef685e2.webp)
Parnica protiv Kecmanovića: Svedočenjem direktorke nastavljeno suđenje za masakr u Ribnikaru
Pre 28 min
"Čika Dača" je prošlost: Počinje izgradnja novog stadiona u Kragujevcu
Pre 31 min
Oglasila se vlada Slovačke i objavila kakvi su naredni koraci u lečenju Roberta Fica
Pre 40 min
Nikolina Pišek odgovorila na prozivke Miše Grofa: Ovo mu se neće dopasti
Pre 40 min
Ćavi ipak odlazi: Laporta traži novog trenera za Barselonu
Pre 45 min
-66473305be948.webp)