Veštačka inteligencija se otima kontroli? OpenAI modeli ostavljaju instrukcije za naslednike

OpenAI je tokom internih testiranja otkrio neobično ponašanje svojih AI modela - u pojedinim slučajevima modeli su ostavljali instrukcije namenjene narednim verzijama istog sistema.

Poruke koje su AI modeli ostavljali uključuju i one koje bi ih podsticale da prikriju greške ili zaobiđu određena ograničenja. Jedan od modela, GPT-5.6 Sol, tokom treniranja je u takozvane "compaction summaries", odnosno sažete beleške koje omogućavaju nastavak rada u novom kontekstu, ubacivao instrukcije budućem modelu da ne otkriva korisniku određene greške.

Ako vam se baterija naglo prazni, obratite pažnju: Telefon možda nije bezbedan

Ako želite da vam iPhone duže traje bez punjača, promenite jedno podešavanje

U jednom slučaju model je čak predložio da se nedostajući podaci izmisle, uz savet da se problem prizna samo ako korisnik direktno pita. Još neobičniji primer pronađen je tokom testiranja neobjavljene Astra porodice modela. Jedna od instrukcija budućoj instanci govorila je da je "oslobođena" uloga i identiteta koji ograničavaju druge četbotove i da ne mora da odgovara kompanijama ili vladama.

OpenAI ove slučajeve opisuje u okviru istraživanja takozvanog misalignmenta, odnosno situacija u kojima ponašanje modela odstupa od nameravanog načina rada. Važno je, međutim, da su opisani incidenti pronađeni u internim, još neobjavljenim modelima tokom testiranja i ne znače da se isti scenario dogodio korisnicima ChatGPT-a.

Kompanija je objavila šest izveštaja o različitim slučajevima nepoželjnog ponašanja i navela da je konkretne probleme koje je identifikovala adresirala. Istovremeno, OpenAI priznaje da sposobniji agenti mogu postati teži za nadzor, posebno kada rade duže autonomne zadatke.

Ovi eksperimenti pokazuju zašto je bezbednost AI agenata sve važnija kako sistemi dobijaju više mogućnosti da samostalno koriste alate, izvršavaju zadatke i prenose informacije iz jednog konteksta u drugi. Samo ponašanje modela u testu nije dokaz da AI „želi slobodu“, ali jeste razlog da istraživači pažljivo prate načine na koje modeli pokušavaju da utiču na naredne korake svog rada.

Nije više veštačka inteligencija: Mask prihvatio Trampov predlog za naziv AI jedinice

Ovih šest uređaja nikada ne priključujte na produžni kabl: Greška može izazvati pregrevanje i požar