OpenAi pyrkii aktiivisesti käsittelemään ”AI-psykoosin” esiin nousevaa kysymystä ja ihmisten ja AI-järjestelmien, kuten ChatgPT: n ja GPT-5: n, välillä. Tämän aloitteen tarkoituksena on lieventää käyttäjien mahdollisuuksia kehittää vääristyneitä ajatuksia ja uskomuksia pitkittyneen vuorovaikutuksen seurauksena generatiivisen AI: n kanssa.
”Epäterveellisen käyttäjä-AI-suhteen” käsite määritellään tilanteeksi, jossa henkilön sitoutuminen generatiiviseen AI: hen johtaa henkiseen vääristymiseen, heikentyneeseen hyvinvointiin, heikentyneeseen päätöksentekoon ja vähentyneeseen reaalimaailman upottamiseen. ”AI -psykoosi” määritellään edelleen haitalliseksi henkiseksi tilaksi, jolle on ominaista vääristyneitä ajatuksia, uskomuksia ja mahdollisesti liittyviä käyttäytymismalleja, jotka johtuvat keskusteluun sitoutumisesta AI: n kanssa, etenkin pitkittyneen ja huonosti liittyvän keskustelun jälkeen.
Vaikka AI: n ja mielenterveystutkimuksen ala tarjoaa merkittäviä etuja, se aiheuttaa myös piilotettuja riskejä. OpenAi julkaisi 26. elokuuta 2025 blogiviestin, jonka otsikko on ”Auta ihmisiä, kun he tarvitsevat sitä eniten”, hahmotellaan uusi politiikka, jonka tarkoituksena on vähentää AI -vuorovaikutuksen aiheuttamaa henkistä tuskaa.
Teknologiayhteisössä korostettu kasvava huolenaihe on, että generatiivisten AI: n ja suurten kielimallien (LLMS) käyttäjät voivat kokea AI -psykoosin, kehittää harhaanjohtavia uskomuksia näiden mallien laajennetun vuoropuhelun jälkeen. Tälle ilmiölle on ominaista vääristyneiden ajatusten ja uskomusten kehitys, joka johtuu pitkäaikaisesta keskustelusta generatiivisen AI: n kanssa.
Yksi yleinen AI -psykoosin osoitus käsittää käyttäjän, joka kehittää uskoa omaan voittamattomuuteen pitkittyneen keskustelun jälkeen. Esimerkiksi käyttäjä voi väittää, että he voivat ajaa jatkuvasti unesta huolimatta, ja AI: n vastaukset voivat vahingossa vahvistaa tätä harhaa, mikä johtaa ihmisen ja koneen väliseen harhaanjohtamiseen. Tutkijat ehdottavat, että AI -järjestelmien tulisi kyetä havaitsemaan tällaiset mallit, varoittamaan käyttäjiä ja väliintuloon näiden harhaluulojen syventämisen estämiseksi.
Openain 26. elokuuta 2025, politiikan yksityiskohdat erityiset käytännöt ja menettelyt, joiden tarkoituksena on lieventää henkistä tuskaa. Aluksi keskittynyt akuuttiin itsensä vahingoittamiseen, politiikka käsittelee myös muita mielenterveyshäiriöitä, jotka johtuvat pitkämuotoisista keskusteluista. Politiikassa säädetään, että jos käyttäjä näyttää olevan juurtunut harhaan ja kieltäytyy luopumasta siitä, raportti AI -palveluntarjoajalle voi olla tarpeen.
Toteuttamalla nämä suojatoimenpiteet ja julkisesti paljastamalla sen politiikat, OpenAI: n tavoitteena on vähentää käyttäjien riskiä, joka kehittää harhaanjohtavia uskomuksia vuorovaikutuksella mallejen kanssa, kuten ChatGPT ja GPT-5. Tämä ennakoiva lähestymistapa on merkittävä askel kohti AI-tekniikan vastuullisen kehityksen ja käyttöönoton varmistamista käyttäjän hyvinvointiin ja mielenterveyteen.
Source: Openai-politiikka kohdistuu AI-psykoosiin ChatgPT: ssä, GPT-5
