Razgovori stručnjaka u Silicijumskoj dolini užasavaju: Kada bi AI mogla da uništi čovečanstvo?

Ako se nađete u situaciji da razgovarate o veštačkoj inteligenciji (AI) s nekim ko je IT potkovan, znajte da može da vas pita o vašem "p(doom)" stavu.

Upravo ove je "vruća tema", koja je postala deo svakodnevnih razgovora istraživača u Silicijumskoj dolini tokom poslednjih meseci.

P(doom), odnosno "probability of doom" (u prevodu: verovatnoća propasti), je kvazi-empirijski način izražavanja verovatnoće da smatrate da će veštačka inteligencija uništiti čovečanstvo.

Ovo omogućava drugim AI stručnjacima da znaju vaš stav o ovoj tehnologiji, bez dubljeg ulaženja u temu egzistencijalnog rizika.

Neko ko ima p(doom) od 50 procenata može se okarakterisati kao Q"doomer", dok se neko sa pet procenata smatra tipičnim optimistom. Bez obzira na stav ljudi, ovo sada služi kao korisna tema za ćaskanje.

Moguća katastrofa: Najveće svetske sile saglasne- veštačka inteligencija rizik za čovečanstvo

"Deo je gotovo svakog razgovora tokom večere", ističe Aron Levi, izvršni direktor cloud platforme Box.

Ne treba da čudi što žargon kao što je p(doom) postoji. Strahovi od tehnologije, kako apokaliptične tako i svakodnevne, povećali su se sa porastom generativne veštačke inteligencije i velikih jezičkih modela kao što je OpenAI-jev ChatGPT. U mnogim slučajevima, lideri ove tehnologije, poput izvršnog direktora OpenAI-ja Sema Altmana, bili su više nego voljni da se poigraju sa tim strahovima ljudi.

Naučnici objavili spisak deset najvećih pretnji po čovečanstvo

Niie poznato gde je nastao termin p(doom), ali se nagađa da je najverovatnije potekao sa filozofskog foruma LessWrong pre više od decenije.

U svakom slučaju, progres p(doom) teme ukazuje na to da postoji barem struja egzistencijalne samosvesti među onima koji razvijaju tehnologiju - naravno, korisniku je prepušteno da odluči da li će to uticati na njegov lični p(doom).