Rasistiset videot, jotka näennäisesti Googlen AI-videon luomistyökalu VEO 3, ovat keränneet miljoonia näkymiä Tiktokin välillä, voittoa tavoittelemattoman mediavalvontamedia-asioiden äskettäisen tutkimuksen mukaan. Nämä organisaation tunnistamat AI-tuottamat videot ovat kyllästyneitä halventavilla stereotypioilla, erityisesti mustien yksilöiden kohdistamisella.
Media Matters päätti videot, joista yksi keräsi hämmästyttävän 14,2 miljoonaa katselua, luotiin Google VEO 3: lla näkyvän Veo -vesileiman vuoksi, joka näkyvästi näkyy näiden leikkeiden nurkassa. Lisäksi jotkut käyttäjät sisälsivät nimenomaisesti hashtageja, kuvatekstejä tai käyttäjätunnuksia, jotka viittaavat VEO 3: iin tai AI: hen. Jokainen organisaation tunnistama leike oli tarkalleen kahdeksan sekuntia pitkä tai käsitti useita segmenttejä, joista kukin ei ylittänyt kahdeksan sekuntia, mikä kohdistuu täydellisesti VEO 3: n tunnettujen kahdeksan sekunnin sukupolven rajan kanssa.
Google käynnisti VEO 3: n toukokuussa, jolloin käyttäjät voivat luoda AI -videoleikkeitä ja ääntä yksinkertaisesti syöttämällä tekstikehotteen. Googlen virallisen verkkosivuston mukaan sitoumus estää haitallisia pyyntöjä ja tuloksia ”. Samoin Tiktokin yhteisöohjeet kieltävät nimenomaisesti ”vihapuheen ja vihamielisen käyttäytymisen” vakuuttaen, että alusta ”ei suosittele sisältöä, joka sisältää negatiivisia stereotypioita henkilöstä tai ryhmästä, jolla on suojattu ominaisuus”.
Tiktokin tiedottaja Ariane de Selliers totesi vastauksena havaintoihin, että ”panemme ennakoivasti täytäntöön voimakkaita sääntöjä vihamielisen puheen ja käyttäytymisen vastaisesti ja olemme poistaneet raportissa tunnistetut tilit, joista monet olivat jo kiellettyjä ennen raportin julkaisemista.” Verge löysi myös joitain näistä ongelmallisista videoista YouTubessa, vaikkakin vähemmän näkymiä, kun taas langallinen itsenäisesti sijaitsi vertailukelpoinen rasistinen AI-luoma sisältö Instagramissa. Media Matters löysi myös muita videoita, jotka sisältävät antisemitististä sisältöä ja rasistisia kuvia maahanmuuttajista ja aasialaisista henkilöistä. Google ei ole vielä antanut kommenttia asiasta.
