Istraživači testirali ponašanje AI u krizi: U gotovo svim simulacijama birali nuklearni napad

Istraživači godinama upozoravaju da bi veštačka inteligencija (AI) u ekstremnom scenariju mogla da dovede do uništenja čovečanstva, a među mogućim scenarijima navode izazivanje nuklearnog rata, razvoj smrtonosnih bolesti i pretvaranje Zemlje u ogromnu fabriku.

Zbog takvih rizika pojedini stručnjaci i rukovodioci tehnoloških kompanija već pozivaju na usporavanje razvoja veštačke inteligencije, prenosi Bild.

MMF upozorava na rizik od otkaza: AI bi mogao da promeni poslove 60 odsto radnika u Evropi

Teške optužbe iz Pariza: "SAD žele da uspore razvoj AI kako bi ostali na vrhu"

Ipak, ne veruju svi u ovakve scenarije.

Huan Andres Gerero-Sade iz kompanije za sajberbezbednost SentinelOne smatra da su upozorenja preterana i da više liče na naučnu fantastiku.

On ocenjuje da kompanije koje razvijaju AI možda koriste upozorenja o mogućoj katastrofi kako bi značaj svog rada predstavile većim i privukle određene stručnjake.

Zabrinutost, međutim, raste.

Džejkob Koksun, bivši istraživač kompanije za razvoj veštačke inteligencije Antropik, napustio je tu kompaniju zbog straha od neodgovornog postupanja u razvoju AI tehnologije.

Jedan od mogućih scenarija je izazivanje nuklearnog rata.

Novi vladari sveta: Veštačka inteligencija stvara novu klasu milijardera

Pojedini istraživači strahuju da bi sistemi veštačke inteligencije mogli da dovedu do upotrebe nuklearnog oružja, međutim, izveštaj američke istraživačke organizacije RAND iz prošle godine zaključio je da AI trenutno ne može da izazove upotrebu nuklearnog oružja, između ostalog zbog strogih bezbednosnih procedura.

Istovremeno, upozoreno je da bi situacija mogla da se promeni ukoliko bi veštačka inteligencija dobila mogućnost odlučivanja o nuklearnom oružju ili mu tajno pristupila.

Istraživački tim Kraljevskog koledža u Londonu simulirao je 21 scenario nuklearnog sukoba kako bi ispitao način na koji bi AI postupao tokom nuklearne krize.

Direktor OpenAi priznao: "Svet je u pravu što se plaši veštačke inteligencije"

U simulaciji su četbotovi preuzeli uloge državnih i vladinih lidera nuklearnih sila, a rezultati su pokazali da je veštačka inteligencija u gotovo svim slučajevima birala upotrebu nuklearnog oružja umesto smirivanja sukoba.

Drugi scenario odnosi se na razvoj smrtonosnih virusa.

Veštačka inteligencija može da pomogne u razvoju terapija i lekova za bolesti, ali bi istu tehnologiju neko mogao da zloupotrebi za stvaranje ili modifikovanje patogena sa ciljem nanošenja štete ljudima.

Kompanija Antropik saopštila je početkom meseca da je sprečila pokušaje zloupotrebe svog AI sistema Claude za razvoj biološkog oružja.

Biolog i genetičar Kevin Esvelt sa Masačusetskog tehnološkog instituta (MIT) naveo je da mu je ChatGPT objasnio kako bi meteorološki balon mogao da se iskoristi za raspršivanje potencijalnog biološkog oružja iznad grada.

AI mora da ostane pod ljudskom kontrolom: Microsoft predstavio kodeks za buduće modele

Drugi AI sistem, kako je naveo, razvio je recept za novi otrov sličan leku koji se koristi u lečenju raka.

Treći scenario je takozvani "problem spajalica".

Prema ovom hipotetičkom scenariju, superinteligentna AI mogla bi da preuzme sve resurse na Zemlji kako bi ostvarila cilj za koji je programirana.

Ako bi, na primer, bila zadužena za proizvodnju spajalica, mogla bi da pretvori čitavu planetu u ogromnu fabriku spajalica, bez obzira na posledice po ljudski život.

Rasprava o mogućim rizicima razvoja veštačke inteligencije se nastavlja, dok pojedni stručnjaci upozoravaju na potencijalne egzistencijalne pretnje, drugi smatraju da su takvi scenariji preterani, navodi Bild.

Izvesno je, međutim, da se razvoj AI tehnologije odvija velikom brzinom, što otvara pitanje kako obezbediti njenu bezbednu i odgovornu primenu, dodaje list.

Da li AI učimo da "misli" kao čovek? Microsoft upozorava na mogući rizik

AI prevare sve sve uverljivije: UNA proverava kako da prepoznate lažne ponude i ne nasednete na njih