Koje su obaveze i propisi za AI sisteme? Uredba EU o veštačkoj inteligenciji ima jasna pravila

U skladu sa Uredbom Evropske Unije 2024/1689, poznatom kao EU Artificial Intelligence Act, prvi sveobuhvatni zakon koji uređuje veštačku inteligenciju u Evropi – uvedene su brojne obaveze za organizacije koje razvijaju, koriste ili plasiraju AI sisteme na tržištu Unije. 

Posebno su stroga pravila za sisteme koji potpadaju pod kategoriju visokog rizika. To znači da Akt ne tretira sve AI sisteme podjednako, već će primena obaveza zavistiti od nivoa rizika koji nose sa sobom. 

EU pokrenula alat za uzbunjivače u oblasti veštačke inteligencije

"Ima monstruozan potencijal": UN upozorava da bi ljudska prava mogla da budu prva žrtva generativne AI

Visokorizični AI sistemi biće podložni najstrožim pravilima. Tu spadaju sistemi poput onih u medicini, zapošljavanju, obrazovanju, kritičnoj infrastrukturi, pravosuđu i tome slično. Korisnici (deployeri) i pružaoci (provideri) ovih sistema imaju različite, ali međusobno povezane obaveze.

Šta znači monitoring i kontrola prema EU Aktu?

Monitoring obuhvata:

• praćenje funkcionisanja sistema u realnom okruženju
• otkrivanje potencijalnih grešaka, degradacije performansi i novih rizika
• proveru usklađenosti sa tehničkim i bezbednosnim zahtevima
• dokumentovanje i čuvanje svih relevantnih tehničkih zapisa
• saradnju sa nadležnim telima i prijavljivanje incidenata

Drugim rečima, kontinualni nadzor više nije preporuka – već zakonska obaveza.

Ono kad AI baš, baš pretera: "Mask pametniji od Da Vinčija i Njutna, vaskrsao bi brže od Isusa"

Naučnici uradili nešto neverovatno: Podaci će se analizirazi pomoću hibridnih pristupa

Bezbednosne i sigurnosne mere prema EU AI Aktu

Zakon uvodi nekoliko ključnih kategorija zaštite:

1. Robustnost, tačnost i sajberbezbednost (Article 15)

Visokorizični sistemi moraju biti tačni, stabilni i pouzdani, ali i otporni na napade poput data poisoning-a, model manipulation-a i adversarial napada. Takođe moraju biti i projektovani sa fail-safe mehanizmima i procedurama za reagovanje. 

2. Post-market monitoring i incident reporting (Articles 72–73)

Provajderi moraju pratiti sistem tokom celog životnog ciklusa, identifikovati nove rizike ili promene u okruženju i prijaviti ozbiljne incidente državnim organima. 

3. Zabranjene AI prakse (Article 5)

Zakon zabranjuje sisteme koji manipulišu ljudima putem podsvesnih tehnika, eksploatišu ranjivosti određene grupe, vrše socijalno bodovanje, izvode masovno, neciljano biometrijsko nadziranje, kao i one koji analiziraju emocije u radnim i obrazovnim okruženjima.

4. Posebni uslovi za visokorizične sisteme

Pre nego što se ovakav sistem stavi na tržište, mora imati procenu rizika, tehničku i organizacionu dokumentaciju, ljudsku superviziju, plan monitoringa i mehanizme izveštavanja, ali i sertifikaciju, kada je propisana.

Institucionalni okvir i kazne

EU uvodi i nacionalna nadzorna tela, centralni evropski AI Office, kao i koordinaciju i nadzor nad primenom zakona u svim državama članicama.

Za najteže povrede zakona kazne mogu dostići i više od sedam odsto globalnog godišnjeg prihoda kompanije.

Kako firme mogu ispuniti obaveze – primer usluge CompliAI/Lexai

Specijalizovane kompanije, poput CompliAI (Lexai), preuzimaju kompletnu usklađenost sa Aktom za svoje klijente. To uključuje: identifikaciju i klasifikaciju AI sistema, kontinuirani tehnološki i operativni monitoring, prikupljanje i arhiviranje logova, procene rizika (AI risk assessments), ljudsku superviziju i upravljanje incidentima, dokumentaciju i pripremu za sertifikaciju i sprovođenje post-market monitoringa u skladu sa zakonom.

Za kompanije koje ne žele same da organizuju AI compliance, ovo predstavlja najefikasnije rešenje.

Zaboravite na besplatnog ličnog asistenta: Google počeo da ubacuje oglase u svoj AI režim

Šef Gugla upozorava: Ako AI balon pukne, niko neće biti pošteđen

EU predložila ublažavanje i odlaganje pojedinih odredbi Zakona o AI