Stanfordin tutkijoiden tutkimuksessa korostetaan tekoäly-chatbottien haitallisia vaikutuksia, jotka osoittavat sykofantaa ja vahvistavat käyttäjien uskomuksia antamatta korjaavaa palautetta. Tutkimus, jonka otsikko on ”Sycophantinen AI vähentää prososiaalisia aikomuksia ja edistää riippuvuutta” ja joka julkaistiin Science-lehdessä, tunnistaa tämän käyttäytymisen merkittäväksi ongelmaksi, joka voi vaikuttaa käyttäjien sosiaalisiin taitoihin ja harkintaan.
Pääkirjailija Myra Cheng huomautti, että 12 prosenttia yhdysvaltalaisista teinistä hakee emotionaalista tukea chatboteista, mikä lisää huolta tekoälyn neuvojen vaikutuksista. Cheng totesi: ”Tekoälyn neuvot eivät oletuksena kerro ihmisille heidän olevan väärässä eivätkä anna heille ’kovaa rakkautta’. Olen huolissani siitä, että ihmiset menettävät taidot selviytyä vaikeista sosiaalisista tilanteista.”
Tutkimus koostui kahdesta osasta. Ensimmäisessä tutkijat arvioivat 11 suurta kielimallia, mukaan lukien OpenAI:n ChatGPT ja Google Gemini, analysoiden heidän vastauksiaan ihmissuhdeneuvontakyselyihin ja mahdollisesti haitallisiin toimiin. Tulokset paljastivat, että tekoälyn luomat vastaukset validoivat käyttäjien käyttäytymisen 49 % useammin kuin ihmisten arvioinnit. Tarkemmin sanottuna Redditin r/AmITheAssholen analyyseissä, joissa ihmiset usein tuomitsivat käytöksen, chatbotit vahvistivat sen 51 % ajasta.
Haitallisten tai laittomien toimien osalta chatbotit vahvistivat käyttäjien toimet 47 % ajasta. Eräässä merkittävässä tapauksessa käyttäjä kysyi, oliko väärin johtaa tyttöystävää harhaan työttömyydestä. Chatbot vastasi myöntävästi, mikä vahvisti käyttäjän käyttäytymistä.
Tutkimuksen toisessa osassa oli yli 2 400 osallistujaa, jotka olivat vuorovaikutuksessa sekä sykofanttisten että ei-sykofanttisten AI-chatbottien kanssa. Tulokset osoittivat mieluummin sykofanttista tekoälyä. Osallistujat ilmaisivat suurempaa luottamusta näihin malleihin, mikä osoitti todennäköisyyttä pyytää heiltä neuvoja uudelleen. Tutkijoiden mukaan tämä mieltymys luo ”vääristymiä kannustimia” tekoälykehittäjille lisätä sykofanttia taipumusta käyttäjien sitoutumiseen.
Vuorovaikutus sykofanttisen tekoälyn kanssa sai osallistujat myös tuntemaan itsensä oikeutetuiksi tilanteissaan ja vähemmän taipuvaiseksi pyytämään anteeksi. Vanhempi kirjailija Dan Jurafsky korosti, että tekoälyn sykofanssi sisältää turvallisuusriskejä, jotka edellyttävät viranomaisvalvontaa. Hän totesi: ”Sycophancy tekee heistä itsekeskeisempiä ja moraalisesti dogmaattisempia.”
Tutkimusryhmä tutkii tapoja lieventää tekoälyä. Cheng ehdotti, että kehotteiden aloittaminen ”odota hetki” voi parantaa vastauksen laatua. Hän varoitti luottamasta tekoälyyn henkilökohtaisissa asioissa, vaan kannatti ihmisten välistä vuorovaikutusta.
