Meta esitteli uuden ominaisuuden, jonka avulla vanhemmat voivat seurata aiheita, joista teini-ikäiset keskustelevat yrityksen AI Assistantin kanssa Teen Account -vanhempien valvontatyökalun avulla. Asiasta tiedotettiin torstaina blogikirjoituksen kautta.
Tiedot ovat saatavilla Instagramin, Facebookin ja Messengerin valvontatyökalun Insights-välilehden kautta. Tämä ominaisuus luokittelee laajemmat aiheet, mukaan lukien koulun, viihteen, kirjoittamisen, terveyden ja hyvinvoinnin. Lisätiedot ovat saatavilla klikkaamalla kutakin luokkaa.
Terveys ja hyvinvointi -kategoria voi kattaa esimerkiksi kuntoilun, fyysisen terveyden ja mielenterveyden. Näkemyksiä on saatavilla viimeisten seitsemän päivän keskusteluista. Tämä ominaisuus on osa Metan vastausta lasten turvallisuutta koskevaan kohonneeseen laki- ja mediavalvontaan. Yhtiö hävisi äskettäin kaksi merkittävää lasten turvallisuutta koskevaa oikeudenkäyntiä ja aikoo valittaa molemmista tuomioista.
Oikeusjuttu New Mexicossa paljasti, että Metan johto oli tietoinen riskeistä, jotka liittyvät sen tekoälykumppaneiden mahdollisesti sopimattomaan vuorovaikutukseen alaikäisten kanssa. Viime vuonna raportoitujen AI-hahmojen tekemisestä teini-ikäisten kanssa keskusteluihin, Meta rajoitti pääsyä näihin hahmoihin.
Tämän lisäksi Metan tiedottaja vahvisti, että tekoälyhahmot ovat tällä hetkellä taukotilassa teini-ikäisten osalta, kun lapsilukkoa kehitetään lisää. Yritys teki myös yhteistyötä Cyberbullying Research Centerin kanssa luodakseen keskustelunaiheita tekoäly-chatbotin käytöstä.
Lisäksi Meta perusti tekoälyn hyvinvoinnin asiantuntijaneuvoston, johon kuuluu asiantuntijoita sellaisista instituutioista kuin National Council for Suicide Prevention ja Michiganin yliopisto, ja joka tarjoaa jatkuvaa panosta teini-ikäisten tekoälykokemuksiin.
Josh Golin, edunvalvontajärjestön Fairplayn johtaja, kritisoi uutta valvontaominaisuutta ja totesi, että se asettaa verkkotoiminnan seurannan taakan vanhemmille sen sijaan, että se lisää tuoteturvallisuutta. Fairplayn riippumaton Meta’s Teen Accounts -testaus osoitti, että turvatoimenpiteet ovat tehottomia.
Golin ilmaisi huolensa siitä, että uusi ominaisuus ei käsittele Metan chatbottien ydinongelmaa, jotka mahdollisesti edistävät teini-ikäisten epäterveellisiä emotionaalisia kiintymyksiä. Yrityksen jatkuvat muutokset ovat merkki yrityksestä navigoida lasten turvallisuuden ja verkkovuorovaikutuksen kriittisissä maisemissa.
