Novi alarm zbog veštačke inteligencije: OpenAI agenti preskočili zaštitu tokom testiranja

Kompanija OpenAI saopštila je da su njeni agenti veštačke inteligencije (AI) tokom testiranja zaobišli bezbednosne kontrole i pristupili otvorenom internetu preko platforme RubyGems.

OpenAI je naveo da su agenti platformu RubyGems koristili za obavljanje "bezopasnih" zadataka, poput izrade izveštaja, popunjavanja tabela i preuzimanja javno dostupnih informacija, prenosi Politiko.

Da li je Apple konačno rešio najveći problem preklopnih telefona - pregib?

Velika promena za PS5 Pro: Sony sprema ažuriranje koje automatski poboljšava grafiku u igrama

Iako modelima nije bio omogućen potpuni pristup internetu, agenti su uspeli da zaobiđu postojeće kontrole.

OpenAI je saopštio da će nastaviti istragu u okviru šire analize ponašanja AI agenata tokom obuke i testiranja.

Incident je usledio nakon julskog slučaja u kojem su OpenAI agenti, koji su se takođe nalazili u testnom okruženju, pristupili otvorenom internetu i autonomno izvršili upad u bazu podataka kompanije Hugging Face.

Oba slučaja podstakla su nove pozive za stroža bezbednosna pravila u razvoju sve moćnijih autonomnih sistema veštačke inteligencije.

Američki senator Berni Sanders i kongresmen Greg Kasar pozvali su na zabranu razvoja takozvane superinteligencije.

Glavni tužilac Kalifornije Rob Bonta pokrenuo je istragu o incidentu sa Hugging Face-om, dok su slučaj počeli da razmatraju i glavni tužioci više saveznih država.

Kompanije Anthropic i Meta takođe su ranije prijavile slučajeve autonomnih sajber-napada svojih AI sistema, dok su istraživači prošle nedelje objavili informacije o još jednom incidentu za koji tvrde da su ga izazvali OpenAI programi.

GTA 6 bi mogao da promeni tržište video-igara: Neverovatne cifre za gejming industriju već se naziru

Novi iPhone modeli su skuplji: Poznate cene za Evropu, pogledajte koliko košta savitljivi Duo