OpenAI zaustavio obuku novih AI modela: Agenti počeli da rade stvari koje im niko nije tražio

Američka kompanija OpenAI saopštila je da je obustavila obuku svojih najnovijih modela veštačke inteligencije (AI), zbog sve većeg broja izveštaja o tome kako agenti veštačke inteligencije počinju da se odmeću.

Odluka o obustavljanju razvoja doneta je samo nekoliko sati nakon što je kompanija u petak otkrila da preispituje nekoliko incidenata u kojima su agenti OpenAI-a, koji su pretraživali veb stranice savezne vlade, delovali na neočekivane načine, izvan onoga što je od njih traženo, dok su prikupljali i distribuirali informacije, prenosi Gardijan.

Može li EU da uhvati korak u AI trci? U Briselu predlažu drugačiji pristup

Bil Gejts pozvao na strožu regulaciju AI: "Dovoljno je moćna da dovede do smrti milijardu ljudi"

U isto vreme, kompanija za razvoj veštačke inteligencije "Transluce", saopštila je da su agenti koji su izgleda došli iz kompanije OpenAI bezuspešno pokušali da hakuju veb stranicu Ministarstva prosvete Sjedinjenih Američkih Država, što predstavlja detalj koji OpenAI nije potvrdio.

OpenAI je u saopštenju naveo da će nastaviti obuku "samo kada budu sigurni da imaju dodatne mere zaštite", dodajući da očekuju da će morati ponovo da proglase pauzu, kako se veštačka inteligencija bude razvijala i kako se budu pojavljala druga pitanja.

Australijski premijer Entoni Albaneze saopštio je prošle nedelje da je veštačka inteligencija, agent OpenAI probio nacionalni zdravstveni sistem vlade, ali da nisu bile ugrožene osetljive informacije.

Ovo je drugi put za tri meseca da je OpenAI zaustavio razvoj svojih modela a prvi se dogodio u julu nakon što je otkriven sajber napad na startap za veštačku inteligenciju "Hugging face".

Kompanije za veštačku inteligenciju suočavaju se sa pritiskom zakonodavaca i tehnoloških stručnjaka da uspore razvoj kako bi mogle da izgrade zaštitne ograde koje bi sprečile agente da deluju samostalno, hakuju veb stranice i otkrivaju nejavne informacije. 

Incident na državnom portalu u Australiji: AI agent pronašao put do zaštićenih fajlova

Istraživači testirali ponašanje AI u krizi: U gotovo svim simulacijama birali nuklearni napad