OpenAI on hyväksynyt Kids Online Safety Actin (KOSA) osana sitoutumistaan luoda ”AI-kohtaiset säännöt” lasten turvallisuudelle. Tämä hyväksyntä osuu samaan aikaan, kun KOSA hyväksyi senaatissa vuonna 2024; Lakiesitys esitettiin ensimmäisen kerran vuonna 2022.
KOSA velvoittaa sosiaalisen median yritysten ja verkkoalustojen vahvistamaan lasten suojaa. Nykyinen versio edellyttää, että sosiaalisen median sovellukset sallivat alaikäisten kieltäytyä ”riippuvuutta aiheuttavista” ominaisuuksista ja algoritmisuosituksista. Verkkoalustoilla on myös ”huoltovelvollisuus” puuttua syömishäiriöihin, itsemurhiin ja seksuaaliseen hyväksikäyttöön liittyvään haitalliseen sisältöön.
Myös muut teknologiayritykset, kuten Apple, Microsoft, Snap ja X, ovat ilmaisseet tukensa KOSAlle. Sitä vastoin NetChoice, kaupparyhmä, jolla on Metan kaltaisia jäseniä, vastustaa lakiesitystä ja väittää, että se voi johtaa sensuuriin parantamatta lasten turvallisuutta. Yksityisyyttä ja digitaalisia oikeuksia suojaavat organisaatiot, kuten Electronic Frontier Foundation, ovat myös vastustaneet KOSAa.
OpenAI totesi, että KOSA ”täydentää” sillä jo käytössä olevia turvatoimia. Global Affairs Officer Chris Lehane korosti vahvempien suojatoimien tärkeyttä ja huomautti: ”Emme voi toistaa virheitä, jotka tehtiin sosiaalisen median nousun aikana, kun vahvempia suojatoimia teini-ikäisille ei otettu käyttöön ennen kuin alustat olivat jo syvästi juurtuneet nuorten elämään.”
Tällä hetkellä OpenAI on kohtaamassa useita oikeudenkäyntejä, joissa väitetään ChatGPT:hen liittyvistä turvallisuusvirheistä. Yksi oikeusjuttu koskee perhettä, joka väittää laittomaan kuolemaan sen jälkeen, kun teini keskusteli itsemurhasuunnitelmistaan chatbotin kanssa. Toinen oikeusjuttu väittää, että teini-ikäinen yliannosti vahingossa huumeita ChatGPT:ltä saamiensa huonojen lääketieteellisten neuvojen vuoksi.
