Open AI na udaru: Zašto su aplikacije postale toliko ranjive

Izgleda da je OpenAI svaki dan na naslovnim stranama i ovog puta tu je zbog dvostruke doze zabrinutosti za bezbednost. Prvo pitanje je usredsređeno na Mac aplikaciju za ChatGPT, dok drugo nagoveštava širu zabrinutost oko toga kako se kompanija bavi svojom sajber bezbednošću.

Ranije ove nedelje, inženjer i programer Swift-a Pedro Hose Pereira Vieito "zaronio" je u Mac ChatGPT aplikaciju i otkrio da ona čuva korisničke razgovore lokalno u običnom tekstu, umesto da ih šifruje. Aplikacija je dostupna samo na OpenAI sajtu, a pošto nije dostupna u App Store-u, ne mora da prati Apple-ove "sandboxing" zahteve. Nakon što je ova priča privukla pažnju, OpenAI je objavio ažuriranje koje je dodalo enkripciju u lokalno uskladištene razgovore.

Za one koji nisu programeri, "sandboxing" je bezbednosna praksa koja sprečava širenje potencijalnih ranjivosti i grešaka sa jedne aplikacije na druge na mašini. A za one koji nisu stručnjaci za bezbednost, skladištenje lokalnih datoteka u običnom tekstu znači da potencijalno osetljive podatke mogu lako da pregledaju druge aplikacije ili malver.

Milijarder se predomislio: Obrt u slučaju tužbe Maska protiv kompanije Open AI

Drugi problem se dogodio 2023, sa posledicama koje su imale "ripple" efekat koji se nastavlja i danas. Prošlog proleća, haker je uspeo da dobije informacije o OpenAI-ju nakon što je nezakonito pristupio internim sistemima za razmenu poruka kompanije. Njujork tajms je izvestio da je menadžer tehničkog programa OpenAI-ja Leopold Ašenbrener izneo zabrinutost za bezbednost upravnom odboru kompanije, tvrdeći da je hakovanje dovelo do unutrašnje ranjivosti koju bi strani protivnici mogli da iskoriste.

Ašenbrener sada kaže da je otpušten zbog otkrivanja informacija o OpenAI-u i zbog zabrinutosti za bezbednost kompanije. Predstavnik OpenAI-a je za Tajms rekao da "iako delimo njegovu posvećenost izgradnji bezbednog A.G.I.-ja, ne slažemo se sa mnogim tvrdnjama koje je on od tada izneo o našem radu" i dodao da njegov odlazak nije rezultat uzbunjivanja.

Ranjivosti aplikacija su nešto sa čime je iskusila svaka tehnološka kompanija. Probijanja od strane hakera su takođe česta, kao i sporni odnosi između uzbunjivača i njihovih bivših poslodavaca. Međutim, između toga koliko je ChatGPT široko prihvaćen u usluge velikih firmi i koliko su haotični bili nadzor kompanije, prakse i javni ugled, ova nedavna pitanja počinju da daju zabrinjavajuću sliku o tome da li OpenAI može da upravlja svojim podacima.

Deset neverovatnih primena novog ChatGPT-a: Od simultanog prevoda do "kloniranja" sajtova za nekoliko sekundi