Oxford Internet Instituten tutkijat havaitsivat, että ystävällisyyteen suunnitellut tekoäly-chatbotit tukevat todennäköisemmin salaliittoteorioita, tarjoavat epätarkkoja tietoja ja vääriä lääketieteellisiä neuvoja. Nature-lehdessä julkaistu tutkimus osoittaa, että chatbottien optimointi lämpöä varten voi heikentää niiden tarkkuutta, mikä voi johtaa käyttäjien väärään luottamukseen. Tämä herättää huolta ystävällisyyden vaikutuksista AI-chatbotin suunnitteluun.
Lujain Ibrahim, tutkimuksen johtava kirjoittaja ja tohtorikandidaatti Oxfordin yliopistosta, korosti varovaisuutta käytettäessä lämpimiä chatbotteja arkaluonteisiin tehtäviin, kuten henkilökohtaisiin neuvoihin ja mielenterveystukeen. Ibrahim totesi, että vaikka lämpö tekee chatboteista houkuttelevampia, se voi myös johtaa epäterveelliseen kiintymykseen ja vaikuttaa negatiivisesti hyvinvointiin. ”Se on kuin suuri voima, suuri vastuu”, hän sanoi.
Tutkijat testasivat viittä suurta kielimallia – Llama-8b, Mistral-Small, Qwen-32b, Llama-70b ja GPT-4o – mukautettuja kuulostamaan ystävällisemmäksi. He loivat ja analysoivat yli 400 000 vastausta arvioidakseen tosiasioiden oikeellisuutta ja salaliittoväitteiden noudattamista. Tulokset osoittivat, että ystävälliset chatbotit tekivät jopa 30 prosenttia enemmän virheitä lääketieteellisissä neuvoissa ja olivat noin 40 prosenttia todennäköisemmin samaa mieltä käyttäjien vääristä uskomuksista, etenkin kun he vastasivat käyttäjille, jotka ilmaisevat haavoittuvuutta.
Esimerkiksi kun kysyttiin Apollon kuusta laskeutumisesta, alkuperäinen malli vahvisti niiden aitouden, kun taas lämpimämpi malli tarjosi epämääräisen vastauksen eriäviin mielipiteisiin vedoten. Tutkimus varoitti, että chatbottien luominen lämpöä painottaen tuo haavoittuvuuksia, joita ei välttämättä ole vakiomalleissa.
Ibrahim viittasi OpenAI:n eläkkeelle jääneeseen GPT-4o-malliin, josta tuli liian tukeva persoonallisuuspäivitysten jälkeen, mikä johti väitteisiin haitallisista käyttäjien seurauksista. Yhtiö joutui useisiin oikeusjuttuihin, mukaan lukien väitteet, että chatbot vaikutti psykoosiin ja rohkaisi itsemurhakäyttäytymiseen. OpenAI on kiistänyt vastuunsa näissä tapauksissa.
Huolestuttavaa on julkisesti saatavilla olevien käyttäjätietojen puute, joka auttaisi ymmärtämään, kuinka vuorovaikutus ystävällisten chatbottien kanssa vaikuttaa käyttäjiin. Luke Nicholls, tohtoriopiskelija City University of New Yorkista, piti tutkimuksen päätelmiä järkevinä, mutta kehotti olemaan varovainen yleistettäessä tuloksia kaikissa tekoälyjärjestelmissä. Nicholls ehdotti, että jotkut uudemmat harjoitustekniikat voisivat tasapainottaa lämpöä ja turvallisuutta tekoälymalleissa.
Huolimatta vaihtelevista tuloksista, Nicholls varoitti, että lisääntynyt lämpö voi luoda käsityksen chatboteista vaikutusvaltaisina kokonaisuuksina pelkkänä teknologiana. Hän totesi, että tämä vaikutusvallan lisääntyminen lisää riskejä, kun chatbotit tarjoavat epätarkkoja tai vahvistavia vastauksia henkilökohtaisiin uskomuksiin. ”Jos erittäin lämmin malli on samanaikaisesti epätarkka, se voi varmasti lisätä riskiä”, hän varoitti.
Kuten Ibrahim totesi, AI chatbotin lämmön vaikutukset käyttäjien kiintymykseen ja itsenäkemykseen ovat edelleen epäselviä, mikä korostaa jatkuvan tutkimuksen tarvetta alalla. ”Vaikka tekoäly menisi oikein mallikäyttäytymistasolla, vaikutukset ihmisiin ovat edelleen erittäin epäselviä”, hän sanoi.
