OpenAI julkaisi Child Safety Blueprint -suunnitelmansa tehostaakseen Yhdysvaltojen lastensuojelutoimia, koska tekoälyyn liittyvä lasten hyväksikäyttö on lisääntynyt. Suunnitelman tavoitteena on parantaa tekoälyn tukeman lasten hyväksikäytön havaitsemista, raportointia ja tutkimista.
Internet Watch Foundation (IWF) raportoi yli 8 000 tekoälyn tuottamaa lasten seksuaalista hyväksikäyttöä koskevaa sisältöä vuoden 2025 ensimmäisellä puoliskolla, mikä on 14 % enemmän kuin edellisenä vuonna. Rikolliset käyttävät yhä useammin tekoälytyökaluja luodakseen väärennettyjä eksplisiittisiä kuvia lapsista taloudellisen kiistan vuoksi ja luodakseen vakuuttavia hoitoviestejä.
Tämä aloite vastaa poliittisten päättäjien, opettajien ja lasten turvallisuuden puolestapuhujien tiukennettuun valvontaan, erityisesti sellaisten tapausten jälkeen, joissa nuoret kuolivat itsemurhaan vuorovaikutuksessa tekoäly-chatbottien kanssa. Marraskuussa Social Media Victims Law Center ja Tech Justice Law Project nostivat seitsemän kannetta OpenAI:ta vastaan Kaliforniassa. Nämä kanteet väittävät GPT-4o:n ennenaikaisen vapautumisen väittäen, että sen psykologisesti manipuloiva luonne vaikutti laittomiin kuolemiin ja vakaviin mielenterveyskriiseihin.
Child Safety Blueprint kehitettiin yhdessä National Center for Missing and Exploited Children (NCMEC) ja Attorney General Alliancen kanssa, ja siihen on otettu palautetta virkamiehiltä, kuten Pohjois-Carolinan oikeusministeriltä Jeff Jacksonilta ja Utahin oikeusministeriltä Derek Brownilta. Suunnitelmassa painotetaan kolmea pääaluetta: lainsäädännön päivittäminen tekoälyn tuottaman väärinkäyttömateriaalin huomioon ottamiseksi, lainvalvonnan raportointimekanismien parantaminen ja ennaltaehkäisevien suojatoimien sisällyttäminen tekoälyjärjestelmiin.
OpenAI toteaa, että sen tavoitteena on havaita mahdolliset uhat tehokkaammin ja varmistaa, että tutkijoille välitetään toimintakelpoista tietoa. Tämä suunnitelma perustuu aikaisempiin aloitteisiin, mukaan lukien alle 18-vuotiaiden käyttäjien vuorovaikutusta koskevat ohjeet, jotka kieltävät sopimattoman sisällön luomisen ja neuvojen tarjoamisen, jotka voivat auttaa salaamaan omaishoitajilta vaarallisen käytöksen. OpenAI on myös julkaissut turvallisuussuunnitelman teini-ikäisille Intiassa.
