Guglov Gemini na meti orkestriranog napada: Konkurencija hoće da ukrade njegovo znanje i tehnologiju

Američka tehnološka kompanija Gugl objavila je danas da se njen najnapredniji sistem veštačke inteligencije Džeminaj (Gemini) našao na meti digitalnih napadača koji su koristili desetine hiljada pažljivo osmišljenih upita kako bi otkrili način na koji model funkcioniše.

U jednom zabeleženom slučaju, napadači su uputili više od 100.000 upita pre nego što je Gugl shvatio šta se dešava i postavio bolju zaštitu, prenosi NBC njuz.

Rukovođenje robotima uz pomoć veštačke inteligencije: Alibaba krenuo u novi poduhvat

Veoma opasan izvor informacija: Veštačka inteligencija daje pogrešne dijagnoze

Suština ovog problema je u tome što konkurencija želi da iskopira način na koji Džeminaj razmišlja i donosi zaključke, a da pritom ne potroši milijarde dolara na sopstveni razvoj. 

Umesto toga, oni koriste odgovore koje im Džeminaj daje kako bi otkrili njegovu unutrašnju logiku i napravili sopstvene, jeftinije verzije istog programa, što Gugl označava za krađu intelektualne svojine.

Kompanija je navela da su mnogi napadi bili usmereni na razotkrivanje algoritama koji omogućavaju AI modelu Džeminaj da odluči kako da obradi i poveže informacije.

Portparol Gugla rekao je za NBC njuz da iza napada verovatno stoje privatne firme i istraživači koji pokušavaju da steknu prednost na tržištu, ali nije otkrio detalje o identitetu aktera i zemljama iz kojih dolaze napadi.

Problem je u tome što se ovi napadi veoma teško razlikuju od običnih korisnika koji su samo veoma znatiželjni ili koriste veštačku inteligenciju za ozbiljan posao. 

Napadači su postali veoma vešti u maskiranju svojih namera, tako da šalju upite sa različitih lokacija i u različito vreme kako ne bi skrenuli pažnju na sebe. 

Zbog toga inženjeri moraju stalno da nadograđuju zaštitne sisteme i koriste još naprednije alate kako bi prepoznali trenutak kada neko pokušava da prevari mašinu, a ne samo da dobije koristan odgovor.

Dosta je čekanja: Nova opcija u Gemini aplikaciji prekida AI "razmišljanje" i odmah daje odgovor

Objavljena je rang lista najpopularnijih AI modela: ChatGPT više nije neprikosnoven lider