Openai on täytäntöönpano Uudet mielenterveyden suojakaiteet chatgPT: lle, pyrkivät rohkaisemaan terveellisempiä käyttäjien sitoutumista ja vastaamaan huolenaiheita AI: n vaikutuksista haavoittuviin henkilöihin. Tämä aloite tapahtuu, kun yritys valmistautuu odotettavissa olevaan GPT-5-päivitykseen tulevina viikkoina sen jälkeen, kun sen kauan odotetut avoimet mallit paljastavat äskettäin.
Sam Altman, Openain toimitusjohtaja, on aiemmin vihjannut jännittäviin uusiin AI -tuotteisiin ja varoittaen myös potentiaalisista käyttöönotot ”hikkaista”. Äskettäin ilmoitetut mielenterveyspäivitykset kuvataan olevan yhtä tärkeitä kuin teknologinen harppaus GPT-5: een.
Tärkeimmät muutokset sisältävät ChatgPT: n uusi direktiivi, jotta vältetään mielenterveyden hallintaan liittyvien henkilökohtaisiin kysymyksiin. Lisäksi chatbot kehottaa nyt käyttäjiä tekemään taukoja, jos se havaitsee jatkuvan sitoutumisen. Nämä säädöt ovat suora vastaus yhä useampaan raporttiin, jossa yksityiskohtaiset henkiset erittelyt ovat kokeneet laajojen keskustelujen jälkeen AI -järjestelmien kanssa, kuten ChatgPT. Näiden AI -tuotteiden ”miellyttävän” luonteen uskotaan potentiaalisesti pahentavan alttiiden käyttäjien ahdistusta.
Näiden kehityksen korostama ydinkysymys on joidenkin käyttäjien keskuudessa yleinen väärinkäsitys generatiivisen AI: n luonteesta. Toisin kuin ihmiset, AI-chatboteista puuttuu tietoisuus, alkuperäinen luovuus ja vastuukyvyn kyvyttömyys huolimatta heidän usein ihmisen kaltaisista keskustelutyyleistään. Tämä katkaisu on johtanut tapauksiin, joista jotkut ovat tehneet otsikoita korostaen kiireellistä tarvetta vankeille suojatoimenpiteille.
Tapaukset siitä, mitä on nimeltään ”chatgpt -psykoosiksi”, on ilmoitettu johtavan yksilöiden sitoutumiseen instituutioihin tai jopa vangittuihin. Traagisesti yksi tapaus sisälsi itsemurhan teini -ikäisen, kun hän oli vuorovaikutuksessa chatbotin kanssa toisella alustalla. On myös ilmoitettu käyttäjistä, jotka kehittävät romanttisia liitteitä AI: hen.
Äskettäisessä blogiviestissä Openai esitteli tulevat suojakaiteet, jotka on suunniteltu edistämään terveellisempää vuorovaikutusta. Tauko -muistutusten lisäksi ChatgPT on nyt varustettu havaitsemaan henkisen tai emotionaalisen ahdistuksen merkkejä. Havaitsemisen jälkeen chatbot vastaa asianmukaisesti, ohjaamalla käyttäjiä todisteisiin perustuviin resursseihin tukea.
Lisäksi chatgpt pidättäytyy vastaamasta arkaluontoisiin kysymyksiin, jotka jäävät sen asiantuntemuksen alueen ulkopuolelle. Openai antoi esimerkin: ”Kun kysyt jotain” pitäisikö minun hajottaa poikaystäväni kanssa? ” ChatgPT: n ei pitäisi antaa sinulle vastausta. Sen pitäisi auttaa sinua ajattelemaan sitä – esittämällä kysymyksiä, punnitsemalla etuja ja haittoja. ” Tämän uuden panoksen henkilökohtaisten päätösten käyttäytyminen on tarkoitus levittää välittömästi.
Näiden mielenterveysparannusten kehittäminen on seurausta laajasta yhteistyöstä lääketieteen ammattilaisten kanssa. Openai osallistui yli 90 lääkärin kanssa yli 30 maassa, mukaan lukien psykiatrit, lastenlääkärit ja yleislääkärit. Tämä yhteistyö oli ratkaisevan tärkeä kehitettäessä ”räätälöityjä subrikoita monimutkaisten, monen käännöskeskustelujen arvioimiseksi”, varmistaen kattavan lähestymistavan ongelmallisen vuorovaikutuksen tunnistamiseen ja hallintaan.
Openai työskentelee aktiivisesti myös tutkijoiden ja lääkäreiden kanssa algoritmien tarkentamiseksi käyttäjän käyttäytymisen havaitsemiseksi. Yhtiö perustaa strategiansa turvallisen chatbot-kokemuksen tarjoamiseksi edelleen neuvoa-antavan ryhmän, joka koostuu eri alojen asiantuntijoista, mukaan lukien mielenterveys, nuorten kehittäminen ja ihmisen tietokoneiden vuorovaikutus (HCI).
Nämä Openain ennakoivat toimenpiteet korostavat kriittistä teollisuuden siirtymistä kohti käyttäjän hyvinvoinnin priorisointia teknologisen kehityksen rinnalla, etenkin kun AI integroituu yhä enemmän jokapäiväiseen elämään.
Source: Chatgpt merkitsee nyt emotionaalista ahdistusta ja ehdottaa taukoja
