TikTok AI citirao Hitlera i Bin Ladena

TikTok je greškom objavio link ka internoj verziji svog novog AI alata za digitalne avatare, omogućavajući korisnicima da kreiraju video snimke u kojima možed a se kaže bilo šta.

Ovu grešku prvi uočio CNN i testirao je funkciju tako što je generisao video zapise koji sadrže citate Hitlera i poruku koja govori ljudima da piju izbeljivač, između ostalih fraza. TikTok je od tada uklonio ovu verziju alata, dok verzija koju je TikTok imao u plan da pokrene ostaje i dalje dostupna.

Symphony Digital Avatars, koje je TikTok pokrenuo ranije ove nedelje, omogućavaju kompanijama da generišu oglase koristeći lik plaćenih glumaca. Takođe koristi sinhronizaciju sa veštačkom inteligencijom koja omogućava oglašivačima da unesu skriptu kako bi avatari rekli šta žele u okviru TikTok smernica. Iako samo korisnici sa TikTok Ads Manager nalogom mogu da pristupe ovoj alatki, verzija koju je otkrio CNN omogućava svakome sa ličnim nalogom da to pokuša.

U izjavi za The Verge, portparolka TikToka Laura Perez kaže da je TikTok otklonio "tehničku grešku" koja je "dozvolila izuzetno malom broju korisnika da kreiraju sadržaj koristeći verziju alata za interno testiranje".

Kada je CNN otkrio internu alatku, kreirao je video zapise koji deklamuju "Pismo Americi" Osame bin Ladena, slogan o nadmoći belaca i video koji govori ljudima da glasaju pogrešnog dana. Nijedan od video zapisa koji je CNN proizveo nije imao vodeni žig koji otkriva da je video generisan veštačkom inteligencijom, što je nešto što radi prava verzija Symphony Digital Avatars.

CNN nije na TikToku objavio video snimke koje je kreirao, ali Perez napominje da bi sadržaj svakako "bio odbijen zbog kršenja naših smernica". Iako je TikTok od tada ukinuo ovu verziju svog alata, to dovodi u pitanje da li će ljudi pronaći druge načine da zloupotrebe ovog kreatora digitalnih avatara – i da li je TikTok spreman za to.

Pokrenuli novu aplikaciju: TikTok iskopirao Instagram - ponovo