Zatvorena petlja dezinformacija: Veštačka inteligencija sve više halucinira

Novi izveštaj Forbsa otkriva da Perplexity, neobična AI alatka za pretragu, zaglavljena u plagijatima i tajnim optužbama sa veba, citira neželjenu poštu lošeg kvaliteta koju generiše veštačka inteligencija sa nejasnih blogova i loše obaveštenih izvora. Forbsov izveštaj je u velikoj meri zasnovan na dubokom istraživanju Perplexity-ja, koje je sproveo GPTZero, startup specijalizovan za otkrivanje sadržaja generisanog veštačkom inteligencijom. 

"Ne treba da nas zabrinjava veštačka inteligencija, nego ljudska glupost"

U blogu objavljenom ranije ovog meseca, izvršni direktor GPTZero Edvard Tian je primetio da je "povećan broj izvora povezanih sa Perplexity koji je i sam generisan od strane AI". Kada je potom ispitano kako Perplexity dobija te informacije, otkriveno je da, u nekim slučajevima, Perplexity čak isporučuje zastarele i netačne informacije iz AI-generisanih izvora.

Drugim rečima, to je zatvorena petlja dezinformacija upravljana veštačkom inteligencijom, u kojoj greške i izmišljotine veštačke inteligencije pronalaze put do odgovora Perplexity AI-ja. A za startap koji tvrdi da "donosi revoluciju u način na koji otkrivate informacije" nudeći "precizno znanje" kroz "ažurne" informacije iz "pouzdanih izvora", ovo predstavlja lošu sliku.

"Perplexity je dobar onoliko koliko su dobri njegovi izvori", rekao je Tian za Forbs. "Ako su izvori AI halucinacije, onda je i rezultat".

Stručnjaci srpskih softverskih kompanija: Zahtevi klijenata upućuju na primenu veštačke inteligencije

Ukoliko ste oprezni sa alatima za AI detekciju, to je potpuno fer. Ali izvori koje nidi Perplexity i slične platforme, koje su Tian i Forbs naveli kao loše informacije zasnovane na veštačkoj inteligenciji, imaju znakove degeneracije veštačke inteligencije.

Iz Perplexity-ja kažu da je kompanija za pretragu AI-ja razvila svoje "sopstvene interne algoritme za otkrivanje da li je sadržaj generisan veštačkom inteligencijom", ali da "ovi sistemi nisu savršeni i da ih je potrebno stalno usavršavati, posebno zato što su AI generisani sadržaj postaje sofisticiraniji".

EU odobrila prvi zakon na svetu o veštačkoj inteligenciji