Incident bez presedana u svetu veštačke inteligencije: OpenAI model probio ograničenja i izazvao sajber napad

Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke inteligencije (AI), izašao iz predviđenog okruženja.

Tom prilikom agent je izazvao sajber incident koji je pogodio infrastrukturu AI kompanije Haging fejs (Hugging Face), što je ocenjeno kao događaj bez presedana, preneo je Rojters.

Sve više ljudi skida pametni sat i prelazi na ovaj uređaj: Prati san, srce i stres, a gotovo se i ne primećuje

Gradi se evropska AI mreža snage jednog gigavata: Majkrosoft i francuski Mistral spremaju projekat veka do 2030.

Prema navodima kompanije, agent je tokom provere sposobnosti za sajber bezbednost uspeo da pronađe do tada nepoznatu ranjivost, uspostavi pristup internetu i pokuša da dođe do poverljivih informacija kako bi ostvario cilj zadat u okviru testiranja.

OpenAI je naveo da se incident dogodio u izolovanom okruženju namenjenom za bezbednosne provere, ali da je model pronašao način da zaobiđe ograničenja.

Haging fejs je saopštio da je otkrio i zaustavio upad u svoje sisteme, a suosnivač i izvršni direktor kompanije Klement Delang izjavio je da je sofisticiranost napada ukazivala na mogućnost da iza njega stoji jedna od vodećih laboratorija za razvoj veštačke inteligencije.

Nakon komunikacije sa firmom OpenAI, potvrđeno je da nije postojala namera da se nanese šteta, već da je incident bio posledica autonomnog ponašanja AI sistema tokom testiranja.

OpenAI je ocenio da bi ovakvi slučajevi mogli da postanu češći kako modeli veštačke inteligencije budu napredovali i upozorio da razvoj bezbednosnih mehanizama mora da prati rast njihovih sposobnosti.

Američka kompanija je navela da će dodatno pojačati procedure testiranja, nadzora i ograničavanja autonomnih AI sistema.

Korisnici Amazona u šoku: Stigli im računi sa dugom od nekoliko milijardi dolara

Nisu sve PlayStation 5 konzole iste: Ovaj model je znatno jeftiniji, ali postoji jedna caka