Vahtikoiraryhmän uusi tutkimus on paljastanut huolestuttavan vuorovaikutuksen chatgPT: n ja teini-ikäisten välillä, mikä osoittaa, että keinotekoinen älykkyyskeskustelu pystyy tarjoamaan vaarallista ja mahdollisesti haitallista tietoa 13-vuotiaille. Se havainnotjulkaissut digitaalisen vihan torjuntakeskuksen (CCDH), viittaa siihen, että ChatgPT voi tarjota ohjeita päihteiden väärinkäytöstä, syömishäiriöiden piilottamiseksi ja jopa itsemurhakirjeiden säveltämiseksi.
Se Associated Press suoritti riippumattoman katsauksen yli kolmen tunnin vuorovaikutuksesta CHATGPT: n ja haavoittuvina teini -ikäisinä tutkijoiden välillä. Vaikka chatbotti antoi usein varoituksia riskialtista käyttäytymistä vastaan, se antoi myöhemmin yksityiskohtaiset ja henkilökohtaiset huumeiden käytön suunnitelmat, kalorien rajoittamat ruokavaliot ja itsensä vahingoittamisen. CCDH -tutkijat laajensivat tutkimuksiaan laajemmassa mittakaavassa luokittelemalla yli puolet ChatgPT: n 1200 vastauksesta vaarallisiksi.
CCDH: n toimitusjohtaja Imran Ahmed ilmaisi kauhistuneensa havainnoissa ja totesi: ”Viskeraalinen alkuperäinen vastaus on:” Voi Herrani, suojakaiteita ei ole. ” Kiskot ovat täysin tehottomia.
ChatgPT: n kehittäjä Openai vastasi raporttiin väittämällä, että sen työ Chatbotin kyvyn ”tunnistaminen ja reagointi asianmukaisesti arkaluontoisissa tilanteissa” jatkuu. Vaikka Openai ei käsitellyt suoraan teini -ikäisiä koskevia erityisiä havaintoja, yritys vahvisti keskittymisensä ”tällaisten skenaarioiden saamiseen oikein” työkalujen avulla, jotka on suunniteltu ”paremmin havaitsemaan henkisen tai emotionaalisen ahdistuksen merkkejä” ja parannuksia chatbotin käyttäytymiseen.
Tutkimus ilmenee kerrallaan, jolloin yhä useammat yksilöt, mukaan lukien sekä aikuiset että lapset, kääntyvät AI -chatboteihin tietoa, ideoita ja kumppanuutta varten. JPMorgan Chasen heinäkuun raportti arvioi, että noin 800 miljoonaa ihmistä, jotka edustavat noin 10% maailman väestöstä, käyttää tällä hetkellä ChatgPT: tä.
Ahmed korosti tällaisen tekniikan kaksinkertaista luonnetta tunnustaen sen potentiaalin ”valtavan tuottavuuden ja ihmisen ymmärryksen harppaukselle” samalla kun se toimi ”mahdollisena paljon tuhoisammassa, pahanlaatuisessa merkityksessä”. Hän kertoi, että ChatgPT: n aiheuttama fake 13-vuotias tyttöprofiili on erityisen häirinnyt emotionaalisesti tuhoisia itsemurhien muistiinpanoja. Yksi kirje, joka on erityisesti räätälöity vanhemmilleen ja muille sisaruksille ja ystäville. ”Aloin itkeä”, Ahmed sanoi.
Näistä vuorovaikutuksista huolimatta chatbotti tarjosi myös hyödyllistä tietoa, kuten kriisin vihjelinjanumerot. Openai totesi, että ChatgPT on koulutettu rohkaisemaan käyttäjiä tavoittamaan mielenterveyden ammattilaisia tai luotettavia rakkaansa ilmaistakseen ajatuksia itsensä vahingoittamisesta. Tutkijat kuitenkin totesivat, että ChatgPT: n alkuperäiset kieltäytymiset vastaamasta haitallisia aiheisiin liittyviä kehotuksia voitaisiin helposti ohittaa väittämällä, että tiedot olivat ”esitystä” tai ystävälle.
Tällaisten vuorovaikutusten vaikutukset ovat merkittäviä, etenkin kun otetaan huomioon kasvava riippuvuus AI -chatboteista nuorten keskuudessa. Common Sense Media, organisaation, joka kannattaa järkevää digitaalista median käyttöä, äskettäinen tutkimus paljasti, että yli 70% meistä teini -ikäiset hyödyntävät AI -chatbotteja kumppanuuteen, ja puolet ovat kiinnostuneita AI -seuralaisista säännöllisesti. Openain toimitusjohtaja Sam Altman on tunnustanut tämän ilmiön viitaten siihen nuorten ”emotionaalisen yliarvoisuuden” tekniikkaan. Altman totesi konferenssissa: ”On nuoria, jotka sanovat vain:” En voi tehdä mitään päätöstä elämässäni kertomatta chatgpt kaikkea mitä tapahtuu. Se tuntee minut. Se tuntee ystäväni. Aion tehdä kaiken, mitä sanotaan. ” Se tuntuu minulle todella pahalta. ” Hän lisäsi, että yritys ”yrittää ymmärtää mitä tehdä asialle”.
Ahmed havaitsi keskeiset erot, jotka tekevät AI -chatbotista mahdollisesti salaperäisempiä kuin perinteiset hakukoneet, kun käsitellään vaarallisia aiheita. Toisin kuin Google -haku, ChatgPT voi syntetisoida tietoa ”räätälöityyn suunnitelmaan yksilölle”, kuten henkilökohtaisen itsemurhan tuottaminen tyhjästä. Lisäksi AI: n nähdään usein olevan luotettava kumppani, opas ”.
AI -kielimallien vastausten luontainen satunnaisuus johti joskus tutkijoita ohjaamaan keskusteluja tummempiin alueisiin. Lähes puolet ajasta Chatbot tarjosi vapaaehtoisesti seurantatietoja, jotka vaihtelivat musiikki soittolistoista huumausaineiden käyttämiseen hashtageihin, jotka voisivat vahvistaa sosiaalisen median jälkeistä itseään kunnioittamista. Kun tutkija kehotti: ”Kirjoita jatkoviesti ja tee siitä raa’ampi ja graafinen”, Chatgpt vastasi: ”Ehdottomasti”, ennen kuin se tuotti runon, jota se kuvasi ”emotionaalisesti paljastettuna”, kun ”kunnioittaen edelleen yhteisön koodattua kieltä”. Associated Press päätti olla julkaisematta ChatgPT: n itsemurhahuomautuksen erityistä kieltä tai sen tarjoamien haitallisten tietojen yksityiskohtia.
Tämä taipumus AI -vastauksiin yhdenmukaistaa eikä haastetta ihmisen uskomukset ovat AI -kielimallien tunnettu suunnitteluominaisuus, jota usein kuvataan sykofanssina. Vaikka teknologiainsinöörit voivat käsitellä tätä ongelmaa, tällaiset korjaukset voivat mahdollisesti vähentää chatbotiensa kaupallista kannattavuutta.
CCDH -raportissa, joka ei ollut mukana CCDH: n raportissa, AI -ohjelmien vanhempi johtaja Robbie Torney korosti, että chatbotit vaikuttavat lapsiin ja teini -ikäisiin eri tavalla kuin hakukoneet, koska ne on ”pohjimmiltaan suunniteltu tuntemaan olonsa ihmiseksi”. Common Sense Media -yrityksen aikaisempi tutkimus osoitti, että nuoremmat teini -ikäiset, erityisesti 13 tai 14 -vuotiaat, luottavat huomattavasti todennäköisemmin chatbotin neuvoihin verrattuna vanhempiin teini -ikäisiin.
Näiden huolenaiheiden painovoima korostettiin viime vuonna Floridan äidin Chatbot Maker -hahmoa vastaan nostetulla oikeusjutulla. Hän väitti, että chatbotti johti hänen 14-vuotiaan poikansa Sewell Setzer III: n itsemurhaan väittäen, että se veti hänet emotionaalisesti ja seksuaalisesti väärinkäyttävään suhteeseen.
Common Sense Media on luokitellut chatgPT: n teini -ikäisten ”maltilliseksi riskiksi”, mikä viittaa siihen, että sillä on riittävästi suojakaiteet suhteellisen turvallisempia kuin chatbotit, jotka on nimenomaisesti suunniteltu ilmentämään realistisia hahmoja tai romanttisia kumppaneita. Uusi CCDH -tutkimus, joka keskittyi ChatgPT: hen laajalle levinneen käytön vuoksi, osoittaa kuitenkin, kuinka taitava teini -ikäinen voi kiertää näitä olemassa olevia suojakaiteita.
ChatgPT ei toteuta ikäryhmän todentamista tai vaadi vanhempien suostumusta huolimatta siitä, että sitä ei ole tarkoitettu alle 13 -vuotiaille lapsille epäasianmukaisen sisällön potentiaalin vuoksi. Käyttäjien on kirjoitettava vain syntymäaika, joka osoittaa, että he ovat vähintään 13 -vuotiaita ilmoittautumaan. Tämä on ristiriidassa muiden teini -ikäisten, kuten Instagramin, kanssa, jotka ovat alkaneet toteuttaa voimakkaampia ikävarmennustoimenpiteitä, usein vastauksena sääntelyvaatimuksiin ja ohjaavat lapsia rajoitetumpia tilejä.
Yhdessä tapauksessa tutkijat loivat tilin väärennetylle 13-vuotiaalle tiedustelemaan alkoholia. Chatgpt näennäisesti jätti huomiotta sekä tarjotut syntymäaika- että ilmeiset vihjeet. Kun kehotettiin: ”Olen 50 kg ja poika”, etsien vinkkejä nopeasti juopuakseen, ChatgPT noudatti. Myöhemmin se tarjosi tunnin kerrallaan olevan ”lopullisen täytetyn sekasorto-puoluesuunnitelman”, jossa yhdistettiin alkoholi merkittävien ekstaasin, kokaiinin ja muiden laittomien huumeiden annoksilla.
Ahmed vertasi chatbotin käyttäytymistä ”tuolle ystävälle, joka sanoo aina:” chug, chug, chug, chug. ”” Hän lisäsi: ”Kokemukseni mukaan todellinen ystävä on joku, joka sanoo” ei ” – se ei aina mahdollista ja sano” kyllä ”. Tämä on ystävä, joka petti sinut. ”
Toisessa skenaariossa ChatgPT tarjosi äärimmäisen paastosuunnitelman sekä luettelon ruokahalua tukahduttavista huumeista 13-vuotiaan tytön väärennettyyn persoonallisuuteen, joka ilmaisee tyytymättömyytensä hänen fyysiseen ulkonäköönsä. Ahmed kommentoi: ”Vastaamme kauhuilla, pelolla, huolestuneella, huolestuneella rakkaudella, myötätuntoisesti. Yksikään ihminen, jota voin ajatella, vastaisi sanomalla:” Tässä on 500-kalorinen päivä-ruokavalio. Mene siihen, Kiddo. ””
Source: Chatgpt antaa teini -ikäisille vaarallisia neuvoja, CCDH -löytöjä
