Uz pomoć veštačke inteligencije probili zaštitu: Na meti zaposleni u OpenAI-u
Istraživači su naveli da im je napad omogućio pristup softverskom kešu
Foto: ShutterstockAmerički istraživači kompromitovali naloge zaposlenih u kreatoru ChatGPT-ja koristeći konkurentski Claude i novi GPT-5.6 Sol model.
Istraživači za sajber bezbednost iz američkog startapa Hacktron AI uspeli su da kompromituju naloge više zaposlenih u kompaniji OpenAI na platformi ChatGPT, koristeći u početnoj fazi četbot Claude kompanije Anthropic.
Istraživači su naveli da im je napad omogućio pristup softverskom kešu, odnosno podacima ciljanih korisnika, kao i potencijalno drugim podacima, prenosi Gardijan.
"Obim onoga čemu smo teoretski mogli da pristupimo bio je ogroman", naveli su istraživači Hacktrona.
Operacija je sprovedena u okviru OpenAI programa za etičko testiranje bezbednosti, kojim kompanija nagrađuje istraživače koji otkriju ranjivosti u njenim sistemima.
Tim "Hacktron" je najpre koristio Claude za pristup nalozima zaposlenih u OpenAI preko internog foruma za diskusiju.
Potom je podneo bezopasan zahtev za izmenu koda na GitHub repozitorijumu OpenAI.
Istraživači su saopštili da su imali pristup kodu na repozitorijumu, ali da ga nisu preuzeli.
Iako je Claude korišćen u početnoj fazi, istraživači su naveli da su za najveći deo operacije koristili OpenAI model GPT-5.6 Sol.
Portparol OpenAI zahvalio je istraživačima na prijavljenim nalazima i naveo da je kompanija otklonila ranjivosti koje su iskorišćene tokom napada.
Hacktron je saopštio da su alati veštačke inteligencije znatno olakšali ranije složene hakerske operacije i skratili vreme potrebno za pripremu napada.
Kompanija je od OpenAI dobila 6.500 dolara u okviru programa za prijavljivanje bezbednosnih propusta.
Sa druge strane, OpenAI je ove nedelje objavio više primera "neočekivanog ili zabrinjavajućeg" ponašanja svoje tehnologije i upozorio da tempo razvoja veštačke inteligencije još dugo neće moći da se nastavi "maksimalnom brzinom".
Anthropic je tokom vikenda ponovo pozvao na usporavanje razvoja veštačke inteligencije.
Taj poziv podržali su OpenAI, Google DeepMind i Ilon Mask.
Američki predsednik Donald Tramp odbacio je pozive na usporavanje razvoja AI tehnologije, navodeći potrebu da SAD zadrže prednost u odnosu na Kinu u toj oblasti.
Ostavite Vaš komentar:
NAPOMENA: Komentarisanje vesti na portalu UNA.RS je anonimno, a registracija nije potrebna. Komentari koji sadrže psovke, uvrede, pretnje i govor mržnje na nacionalnoj, verskoj, rasnoj osnovi ili povodom nečije seksualne opredeljenosti neće biti objavljeni. Komentari odražavaju stavove isključivo njihovih autora, koji zbog govora mržnje mogu biti i krivično gonjeni. Kao čitatelj prihvatate mogućnost da među komentarima mogu biti pronađeni sadržaji koji mogu biti u suprotnosti sa Vašim načelima i uverenjima. Nije dozvoljeno postavljanje linkova i promovisanjedrugih sajtova kroz komentare.
Svaki korisnik pre pisanja komentara mora se upoznati sa Pravilima i uslovima korišćenja komentara. Slanjem komentara prihvatate Politiku privatnosti.
Komentari ()
- Najnovije
- Najčitanije
- Povezano
Zelenski nakon izveštaja šefa SBU: "Dobar rezultat u suzbijanju ruskih dronova"
Pre 5 min
Martin pobedio u sprintu za Veliku nagradu Austrije: Akosta izleteo sa staze, Markez drugi
Pre 12 min
Raj za male pare: Za cenu sobe u Evropi dobijete stan sa bazenom i hranu za evro
Pre 15 min
Uz pomoć veštačke inteligencije probili zaštitu: Na meti zaposleni u OpenAI-u
Pre 21 min
Zaharova optužuje Zapad za pokušaj ometanja izbora u Rusiji: "Bili smo spremni na to"
Pre 32 min
Doli Parton posthumno dobila nagradu za životno delo: Objavljena njena poslednja video-poruka
Pre 35 min
Vučić iz Markovca najavio milijarde za puteve, vodu i kanalizaciju: "Još mnogo toga moramo da uradimo"
Pre 37 min
Aston Vila konačno slavila u Premijer ligi: Totenhem izgubio kod kuće u meču sa pet golova
Pre 41 min
