AI modeli dobili sigurnosni prekidač: OpenAI uveo sistem za hitno gašenje u slučaju propusta

Kompanija OpenAI predstavila je sistem Control Room – prekidač za hitno zaustavljanje AI modela u slučaju bezbednosnih propusta.

Do kašnjenja dolazi zbog sloja keš memorije za autorizaciju zaključivanja, kako bi se podržao potreban obim saobraćaja. "Radimo na tome da ovaj broj svedemo na nulu", poručili su iz OpenAI-ja.

Kada veštačka inteligencija nadmudri sistem: UNA istražuje ima li razloga za strah i kako sprečiti zloupotrebe

SAD ubrzavaju proizvodnju humanoidnih robota: Očekuje se i do 400.000 jedinica godišnje do 2030. godine

OpenAI je objavio da su ugradili prekidač za isključivanje (kill switch) za modele raspoređene u svojim istraživačkim laboratorijama, mesecima nakon što su neki od njih pokazali uznemirujuće ponašanje.

Kompanija je kill switch nazvala Control Room i opisala ga kao "centralni sistem za praćenje opterećenja modela u našoj istraživačkoj infrastrukturi i njihovo brzo zaustavljanje kada se pojave bezbednosni problemi". Taj sistem, naveli su, može da zaustavi modele u generisanju bilo kakvog izlaza 35 sekundi nakon odluke o isključivanju.

Do kašnjenja od 35 sekundi dolazi zbog sloja keš memorije za autorizaciju zaključivanja, kako bi se podržao potreban obim saobraćaja. "Radimo na tome da ovaj broj svedemo na nulu", poručili su iz OpenAI-ja.

Početnička greška u dizajnu kritične infrastrukture jeste izgradnja alata za produkciju i otpornost na zajedničkim resursima koji bi mogli biti isključeni sa mreže jednim incidentom. Čini se da je OpenAI svestan tog rizika, jer kaže da su napravili alat "izgrađen tako da nastavi sa radom čak i kada drugi sistemi zakažu, i da zaustavi izlaz modela ukoliko je Control Room onesposobljen".

OpenAI nije objasnio zašto je trebalo toliko dugo za izgradnju kill switch-a niti zašto su sada odlučili da im je potreban. Naveli su da je Control Room već raspoređen u njihovoj istraživačkoj infrastrukturi, gde je potreba najveća.

Dodali su da je njihova eksterna infrastruktura za opsluživanje modela po prirodi centralizovanija, sa dobro razvijenom operativnom sposobnošću brzog uklanjanja implementacija modela ukoliko je to potrebno. Takođe planiraju da ojačaju i prošire sistem tokom narednih meseci, uz istovremena ulaganja u nadzor radi otkrivanja neusklađenog ponašanja i bezbednosnih propusta.

Velika novost iz Antropika: Novi AI model rešavao probleme iz teorijske fizike

Koristite AI za upravljanje finansijama? Ove podatke nikada nemojte deliti sa veštačkom inteligencijom