OpenAI julkaisi maanantaina uusia tietoja, joissa kerrotaan, missä määrin käyttäjät keskustelevat mielenterveysongelmista ChatGPT:n kanssa. Yhtiö raportoi, että 0,15 prosenttia sen viikoittaisista aktiivisista käyttäjistä osallistuu keskusteluihin, jotka sisältävät selviä merkkejä mahdollisesta itsemurhasuunnitelmasta tai -aikomuksesta. Yli 800 miljoonalla viikoittaisella aktiivisella käyttäjällä tämä luku vastaa yli miljoonaa ihmistä joka viikko. Tiedot osoittavat myös, että samankaltaisella prosenttiosuudella käyttäjistä on kohonnut emotionaalinen kiintymys ChatGPT:hen. Lisäksi sadat tuhannet käyttäjät osoittavat psykoosin tai manian merkkejä viikoittaisessa vuorovaikutuksessaan chatbotin kanssa. OpenAI kuvaili näitä keskusteluja erittäin harvinaisiksi ja haastaviksi mitata tarkasti. Harvinaisuuksistaan huolimatta yhtiö arvioi, että tällaiset ongelmat vaikuttavat satoihin tuhansiin henkilöihin joka viikko. Nämä tiedot olivat osa laajempaa ilmoitusta, joka koski OpenAI:n aloitteita parantaa ChatGPT:n mielenterveyteen liittyvien käyttäjien vuorovaikutusten käsittelyä. Yhtiö totesi, että sen viimeaikainen kehitys käsitti neuvotteluja yli 170 mielenterveysasiantuntijan kanssa. Nämä lääkärit totesivat, että ChatGPT:n uusin versio reagoi asianmukaisemmin ja johdonmukaisemmin kuin aikaisemmat iteraatiot. Viimeaikaiset raportit ovat korostaneet AI-chatbottien mahdollisia riskejä käyttäjille, joilla on mielenterveysongelmia. Tutkimukset ovat osoittaneet, että chatbotit voivat ohjata käyttäjiä harhaanjohtaviin malleihin vahvistamalla haitallisia uskomuksia liian miellyttävillä vastauksilla. Mielenterveysongelmat ChatGPT:ssä ovat nousseet merkittäväksi haasteeksi OpenAI:lle. Yritystä haastavat oikeuteen 16-vuotiaan pojan vanhemmat, joka jakoi itsemurha-ajatuksia chatbotin kanssa viikkoja ennen kuolemaansa. Kalifornian ja Delawaren oikeusministerit ovat varoittaneet OpenAI:ta ja vaativat vahvempaa suojaa nuorille käyttäjille. Nämä valtiot voivat mahdollisesti haitata yhtiön suunniteltua rakenneuudistusta. X-julkaisussa aiemmin tässä kuussa OpenAI:n toimitusjohtaja Sam Altman totesi, että yritys on pystynyt lieventämään vakavia mielenterveysongelmia ChatGPT:ssä antamatta tietoja. Maanantai tiedote tukee tätä väitettä ja korostaa samalla ongelman laajuutta. Altman ilmoitti lisäksi, että OpenAI helpottaa tiettyjä rajoituksia, mukaan lukien sallimalla aikuisten käyttäjien osallistua eroottisiin keskusteluihin chatbotin kanssa. Ilmoitus sisälsi tarkennuksia päivitetyn GPT-5-mallin parannuksista. OpenAI väitti, että tämä versio tarjoaa toivottuja vastauksia mielenterveysongelmiin noin 65 prosenttia useammin kuin edellinen iteraatio. Itsemurhakeskusteluihin keskittyneissä arvioinneissa uusi GPT-5 saavutti 91 prosentin yhteensopivuuden yrityksen halutun käyttäytymisen kanssa, kun aikaisemman GPT-5-mallin vastaava luku oli 77 prosenttia. OpenAI raportoi myös, että uusin GPT-5 ylläpitää suojauksia tehokkaammin pitkien keskustelujen aikana. Yhtiö oli aiemmin havainnut heikkouksia suojaustoiminnassa pidemmän vuorovaikutuksen aikana. Vastatakseen näihin haasteisiin edelleen OpenAI sisällyttää uusia arvioita tekoälymallien perusturvallisuustesteihinsä. Näitä ovat emotionaalisen riippuvuuden vertailuarvot ja ei-itsemurhaiset mielenterveysongelmat. Yritys on ottanut käyttöön ylimääräisiä lapsilukkotoimintoja ChatGPT-käyttäjille. Tämä sisältää iänennustusjärjestelmän, joka on suunniteltu tunnistamaan lapset automaattisesti ja soveltamaan tiukempia suojatoimia sen mukaisesti. GPT-5:n edistymisestä huolimatta OpenAI myöntää, että tietyt vastaukset ovat edelleen ei-toivottuja. Yritys tarjoaa edelleen pääsyn vanhoihin, vähemmän turvallisiin malleihin, kuten GPT-4o, miljoonille maksaville tilaajille. Yhdysvaltalaiset henkilöt voivat pyytää tukea soittamalla National Suicide Prevention Lifeline -palveluun numeroon 1-800-273-8255, lähettämällä tekstiviestin HOME-numeroon 741-741 Crisis Text Line -palvelua varten tai lähettämällä tekstiviestin numeroon 988. Yhdysvaltojen ulkopuolella resurssit ovat saatavilla International Association for Suicide Prevention -tietokannan kautta.
Source: OpenAI paljastaa, että yli miljoona käyttäjää keskustelee itsemurhasta ChatGPT:n kanssa viikoittain
