Koliko je bezbedan AI? Otkrivena ozbiljna mana u Microsoft Copilot-u

Stručnjaci su otkrili opasnu ranjivost u Microsoft-ovoj veštačkoj inteligenciji (Copilot) koja je napadačima omogućavala da jednim klikom izvuku privatne podatke i kodove iz korisničkih imejlova.

Microsoft je hitno zakrpio propust u svom biznis paketu M365 Copilot, nakon što su bezbednosni istraživači otkrili napad nazvan SearchLeak.

Apple najavio poskupljenja: Veštačka inteligencija diže cenu iPhone uređaja

Prvi snimci iPhone 18 Pro modela: Apple sprema moćan čip i jednu neočekivanu promenu

Ispostavilo se da ovaj AI asistent pati od "urođene lakovernosti". On, naime, ne ume da razlikuje komande koje mu zadaje stvarni vlasnik naloga od skrivenih, zlonamernih uputstava koja se nalaze u tuđim mejlovima, dokumentima ili linkovima koje AI analizira.

Napad je bio zastrašujuće jednostavan za krajnjeg korisnika:

• Napadač pošalje žrtvi imejl sa specijalno napravljenim linkom.
• Korisnik ne mora ništa da kuca – dovoljno je samo da klikne na link.

Microsoft je ranije postavio zaštite koje sprečavaju AI da šalje podatke nepoznatim sajtovima, ali su hakeri pronašli trik. Iskoristili su trenutak pre nego što AI sistem "razmisli" i primeni zaštitu, i progurali podatke kroz privremeni kod unutar internet pretraživača.

Pošto je ovaj sistem namenjen uglavnom firmama, radijus štete je ogroman. Hakeri su na ovaj način mogli da pristupe svemu što zaposleni vidi: poslovnim mejlovima, kalendarima, sastancima, beleškama, kao i dokumentima na SharePointu i OneDrive-u.

Iako je Microsoft brže-bolje rešio ovaj konkretan problem, stručnjaci upozoravaju da je ovo sistemska mana veštačke inteligencije. Pošto još uvek ne postoji način da se AI nauči da razlikuje dobre od loših naredbi unutar dokumenata, hakeri će pre ili kasnije pronaći novi način da zaobiđu zaštitne ograde.

Google uvodi nove promene: Blokiranje reklama postaje nemoguće

Nova špijunska mreža uzdrmala Zapad: Gugl tvrdi da tragovi vode ka Kini