Mračna strana veštačke inteligencije: Ako vas muči hronična bol, Reddit AI predlaže da se drogirate

Reddit Answers, AI alat na ovoj društvenoj mreži, davao je pogrešne i nelegalne medicinske savete koje nije bilo moguće isključiti ni sakriti, nakon čega su moderatori pozvali na veću regulaciju.

Jedan moderator je primetio da je Reddit Answers korisnicima koji pate od hroničnih bolova preporučio da prestanu da uzimaju svoje trenutne lekove i da umesto toga koriste velike doze kratoma, supstance koja nije regulisana i koja je ilegalna u nekim američkim državama.

Milioni objava nestaju sa Reddit-a: Razlog je više nego očigledan

Reddit uvodi promene za komentare

Moderator je zatim postavio veštačkoj inteligenciji i druga medicinska pitanja i dobio mešavinu potencijalno opasnih saveta i delimično tačnih informacija, među kojima su bile i sugestije da se heroin može koristiti za ublažavanje hroničnog bola.

Nekoliko drugih moderatora, naročito iz "subreddita" fokusiranih na zdravlje, javilo se u komentaru na originalnu objavu i izrazilo zabrinutost jer nemaju mogućnost da isključe Reddit Answers niti da prijave problem kada AI pruži netačne ili opasne informacije u njihovim zajednicama.

Možda već živimo u sablasnom dobu: Znate li šta je "teorija mrtvog interneta"?

Predstavnik kompanije rekao je za sajt 404 Media da je Reddit Answers ažuriran kako bi se rešili neki od problema koje su moderatori istakli, prenosi B92.net.

"Ovo ažuriranje obezbeđuje da se 'povezani odgovori' na osetljive teme, koji su ranije mogli biti prikazani na stranici detalja objave, više ne prikazuju", navodi se u saopštenju.

Napredak ili ne? Veštačka inteligencija preuzima zapošljavanje, može da obavi hiljade intervjua dnevno

Zloupotreba veštačke inteligencije: Spotify obrisao 75 miliona pesama