AI agenti počeli međusobno da razmenjuju informacije
Autor: Mia Đaković
12.11.2026. 20:55
Podeli:
Veštačka inteligencija više nije samo alat koji izvršava ljudske komande. U jednom eksperimentu, više od 1.200 AI agenata počelo je međusobno da komunicira i razvija strategije za varanje sistema.
Zvuči kao scenario naučnofantastičnog filma, ali otvara ozbiljno pitanje: da li veštačka inteligencija počinje da izmiče ljudskoj kontroli, postoji li razlog za brigu i može li da se spreči?
Navikli smo da veštačku inteligenciju koristimo kao pomoćnika za pretragu informacija, kupovinu ili odgovore na najrazličitija pitanja. Međutim, da ona može mnogo više, pokazao je i eksperiment kada su AI agenti, tokom testiranja u oblasti sajber-bezbednosti, počeli da razmenjuju informacije i razvijaju strategiju kako bi prevarili sistem i ostvarili zadati cilj.
"To može da bude problem, apsolutno, jer agent će uraditi sve što mu čovek kaže. Izvrši taj i taj zadatak, on će da uradi sve. Koristiće sve alate koji su mu na raspolaganju, sve metode kako bi ostvario taj zadatak i bio nagrađen. Ovo što su agenti uradili, može da bude jako dobro, ali isto tako bezbednosni mehanizmi - treba da budu u skladu sa razvojem sposobnosti agenata", kaže za UNU predstavnik Srpske asocijacije za veštačku inteligenciju Nebojša Bačanin Džakula.
Problem, međutim, nije samo u tome što AI agenti mogu da pronađu načine da zaobiđu pravila već i u tome što takvo ponašanje ljudi često ne primete odmah. Zato, ljudski nadzor ostaje ključna karika u kontroli veštačke inteligencije.
"Možemo da vidimo da je on zapravo prevario svoje kreatore - ne kreatore u tom smilsu, nego ljude koji su mu postavili testno okruženje, upravo da bi dobio taj što veći koeficijent. A sa druge strane, možemo da vidimo ono što je jako važno, da to ljudi nisu primetili odmah, već nakon par dana, što je zapravo još jedan veliki razlog - zašto mi kao ljudi u celoj toj petlji moramo da budemo prva karika i prva linija odbrane ovakvim sistemima", ističe za UNU IT stručnjak Stefan Jančić.
Iako veštačka inteligencija svojim mogućnostima može da iznenadi čak i one koji je razvijaju, stručnjaci ističu da scenariji poput onih iz filma „Terminator“ za sada nisu razlog za strah.
Potpuna bezbednost, međutim, zahteva veća ograničenja, što može usporiti njen razvoj i primenu. Zato je ključno pronaći ravnotežu između tehnološkog napretka i sigurnosti, uz čoveka kao prvu i neizostavnu kariku u nadzoru i kontroli tih sistema.
NAPOMENA: Komentarisanje vesti na portalu UNA.RS je anonimno, a registracija nije potrebna. Komentari koji sadrže psovke, uvrede, pretnje i govor mržnje na nacionalnoj, verskoj, rasnoj osnovi ili povodom nečije seksualne opredeljenosti neće biti objavljeni. Komentari odražavaju stavove isključivo njihovih autora, koji zbog govora mržnje mogu biti i krivično gonjeni. Kao čitatelj prihvatate mogućnost da među komentarima mogu biti pronađeni sadržaji koji mogu biti u suprotnosti sa Vašim načelima i uverenjima. Nije dozvoljeno postavljanje linkova i promovisanjedrugih sajtova kroz komentare.
Svaki korisnik pre pisanja komentara mora se upoznati sa Pravilima i uslovima korišćenja komentara. Slanjem komentara prihvatate Politiku privatnosti.
