OpenAI esitteli ChatGPT:lle ”ikäennuste”-ominaisuuden alaikäisten tunnistamiseksi, mikä mahdollistaa asianmukaiset sisältörajoitukset heidän keskusteluilleen. Kritiikki tekoälyn vaikutuksista nuoriin on lisääntynyt. OpenAI:n ChatGPT on yhdistetty teinien itsemurhiin. Chatbot joutui myös kritiikkiin siitä, että se käsitteli seksuaalisia aiheita nuorten käyttäjien kanssa. Huhtikuussa yritys myönsi virheen, joka salli sen chatbotin tuottaa erotiikkaa alle 18-vuotiaille käyttäjille. OpenAI on käsitellyt alaikäisten käyttäjien ongelmaa. Uusi ”ikäennuste” -ominaisuus täydentää olemassa olevia suojauksia. Tämä ominaisuus käyttää tekoälyalgoritmia analysoimaan käyttäjätilien ”käyttäytymis- ja tilitason signaaleja” nuorten käyttäjien havaitsemiseksi, kuten yrityksen tiistaina julkaisemassa blogiviestissä kerrotaan. Nämä ”signaalit” sisältävät käyttäjän ilmoittaman iän, tilin pitkäikäisyyden ja tyypilliset aktiiviset tunnit. OpenAI käyttää tällä hetkellä sisältösuodattimia sulkeakseen pois keskustelut seksuaalisesta sisällöstä, väkivallasta ja muista aiheista, joita pidetään alle 18-vuotiaiden käyttäjien kannalta ongelmallisina. Jos iän ennustemekanismi tunnistaa tilin kuuluvan alaikäiselle, nämä suodattimet otetaan käyttöön automaattisesti. Käyttäjät, jotka on vahingossa luokiteltu alaikäisiksi, voivat palauttaa tilinsä tilan. He voivat lähettää selfien OpenAI:n henkilöllisyyden vahvistuskumppanille Personalle iän vahvistamista varten.
Source: OpenAI julkaisee tekoälyn ikäennustustyökalun rajoittaakseen ChatGPT:tä alaikäisille
