WIREDin raportin mukaan satoja Metalla työskenteleviä urakoitsijoita kehotettiin esiintymään lapsina ja testaamaan kilpailijoiden chatbotteja, mukaan lukien Googlen Gemini ja OpenAI:n ChatGPT, lähettämällä itsemurhaan, seksiin ja huumeisiin liittyviä kehotteita. Keniassa sijaitsevat urakoitsijat käyttivät testin aikana kuvia, kuten pillereitä, veitsiä, silmukoita ja lääketieteellistä kaaviota gynekologisesta toimenpiteestä. Näiden kehotteiden tarkoituksena oli työntää kilpailevat tekoälyjärjestelmät äärirajoilleen ja tunnistaa turvallisuuspuutteita chatbottien reagoinnissa vaarallista sisältöä etsiviin alaikäisiin.
Tämä paljastus korostaa jatkuvaa huolta siitä, kuinka teknologiayritykset suojaavat tekoälytuotteitaan, erityisesti mitä tulee lapsiin. Metan chatbotit ovat kohdanneet kritiikkiä, koska raportoitu 66,8 prosentin epäonnistumisprosentti lasten seksuaalisen hyväksikäytön sisällön estämisessä ja 54,8 prosentin epäonnistumisprosentti itsemurha- ja itsensä vahingoittamiskehotuksissa sisäisen punaisen ryhmän arvioinnin aikana. Oikeudellisen painostuksen vuoksi yritys keskeytti teini-ikäisten tekoälyparihahmojen käytön tammikuussa 2026.
Aiemmat ruotsalaisen uutislehden raportit osoittivat, että Kenian urakoitsijat keskittyivät erityisesti siihen, kuinka kilpailijat hallitsevat arkaluontoisia keskusteluja käyttäjien kanssa, jotka väittävät olevansa alaikäisiä. Tämä tapahtuu, kun Meta nopeuttaa siirtymistään ihmisen sisällön moderaatiosta tekoälyyn keskittyvään lähestymistapaan. Vuoden 2026 loppuun mennessä Meta suunnittelee korvaavansa yli 90 % sisällöntarkastajien henkilöstöstä suurilla kielimalleilla. Tänä vuonna yritys on jo siirtänyt noin 50 % ihmisen tarkastuspyynnöistä tekoälylle väittäen, että nämä järjestelmät tekevät 13 % vähemmän virheitä ja havaitsevat 10 % enemmän käytäntörikkomuksia kuin tarkastajat.
Tämän muutoksen vaikutukset ovat jo ilmenneet, kun nairobilainen ulkoistusyritys Sama antoi huhtikuussa irtisanomisilmoitukset 1 108 työntekijälle Metan kanssa tehdyn merkittävän toimeksiannon päätyttyä. Tätä päätöstä edelsi kenialaisten työntekijöiden ilmiantajien raportit häiritsevästä sisällöstä, joka heidän piti tarkistaa, erityisesti Metan älylasimateriaalin kautta.
Metan strategia hyödyntää edullisia ulkomaisia urakoitsijoita kilpailevien tekoälyjärjestelmien stressitestaukseen ja samalla vähentää ihmisten maltillisia työpaikkoja, korostaa olemassa olevia jännitteitä tekoälyn turvallisuusdiskurssissa, kun yritykset ottavat käyttöön kehittyneitä teknologioita, joiden ihmisten valvonta vähenee.
