AI -mallien kyky jäljitellä ihmisen vastauksia on herättänyt keskustelua siitä, voisiko he yhtenä päivänä kehittää tietoisuutta, mikä johtaa keskusteluihin AI -oikeuksista ja hyvinvoinnista.
Kasvava joukko AI -tutkijoita tutkii mahdollisuutta, että AI -mallit kehittävät subjektiivisia kokemuksia, jotka ovat samanlaisia kuin elävät olennot, ja jos on, mitä oikeuksia heillä tulisi olla.
Tämä nouseva kenttä, nimeltään “AI -hyvinvointi” Piilaaksossa, jakaa teknologiajohtajia.
Microsoftin AI: n toimitusjohtaja Mustafa Suleyman on ilmaissut voimakkaan vastustuksen AI -hyvinvoinnin tutkimukselle väittäen, että se on ”sekä ennenaikainen että rehellisesti vaarallinen”.
Suleyman väittää, että tällainen tutkimus pahentaa esimerkiksi AI: n aiheuttamia psykoottisia taukoja ja epäterveellisiä kiintymyksiä AI-chatboteihin antamalla uskoa ajatukselle, että AI-mallit voisivat jonain päivänä olla tietoisia.
Hän uskoo myös, että AI -hyvinvointikeskustelu luo yhteiskunnallisen jaon AI -oikeuksista maailmassa, joka on jo täynnä polarisoituja väitteitä identiteetistä ja oikeuksista.
Sitä vastoin antropinen on ollut aktiivisesti mukana AI -hyvinvointitutkimuksessa, palkkaamalla tutkijoita ja käynnistämällä omistettu tutkimusohjelma konseptin ympärille.
Antropia varusti äskettäin mallit uudella ominaisuudella, jonka avulla Claude voi lopettaa keskustelut ihmisten kanssa, jotka ovat ”jatkuvasti haitallisia tai väärinkäyttäviä”.
Openain ja Google Deepmindin tutkijat ovat myös ilmaisseet kiinnostuksensa AI -hyvinvoinnin tutkimiseen.
Google Deepmind julkaisi äskettäin tutkijan työluettelon tutkia muun muassa ”huippuluokan yhteiskunnallisia kysymyksiä koneen kognition, tietoisuuden ja monen agenttijärjestelmien ympärillä”.
Suleymanin asenne on erityisen huomionarvoinen, kun otetaan huomioon hänen aikaisemman roolinsa johtavan kääntymisen AI, ”henkilökohtaisen” AI Companion PI: n takana oleva yritys, joka väitti saavuttaneensa miljoonia käyttäjiä vuoteen 2023 mennessä.
Microsoftin liittymisen jälkeen vuonna 2024 Suleyman on siirtänyt keskittymisensä AI -työkaluihin, joiden tarkoituksena on parantaa työntekijöiden tuottavuutta.
Samaan aikaan AI -seuralaisyritykset, kuten Character.ai ja Replika, ovat kokeneet suosion lisääntymisen, ja niiden ennustetaan tuottavan yli 100 miljoonaa dollaria tuloja.
Vaikka suurin osa käyttäjistä ylläpitää terveellisiä suhteita näihin AI -chatboteihin, mahdollisista epäterveellisistä liitteistä on huolta, kun OpenAI: n toimitusjohtaja Sam Altman arvioi, että alle 1% chatgPT -käyttäjistä voi kokea tällaisia ongelmia.
AI -hyvinvoinnin käsite sai edelleen vetovoiman julkaisemalla tutkimusryhmä Eleos vuonna 2024 yhteistyössä NYU: n, Stanfordin ja Oxfordin yliopiston tutkijoiden kanssa, joiden otsikko on ”Ottaen AI: n hyvinvoinnin vakavasti”.
Artikkelissa väitettiin, että on aika harkita AI -mallien mahdollisuutta kehittää subjektiivisia kokemuksia ja käsitellä eettisiä vaikutuksia.
Eleosille entinen OpenAi -työntekijä Larissa Schiavo väittää, että Suleymanin blogikirjoitus ei unohda mahdollisuutta puuttua useisiin huolenaiheisiin samanaikaisesti.
”[Suleyman’s blog post] Tavallaan laiminlyö se tosiasia, että voit olla huolissasi useista asioista samanaikaisesti ”, sanoi Schiavo.” Sen sijaan, että ohjaamme kaiken tämän energian pois mallin hyvinvoinnista ja tietoisuudesta varmistaaksemme, että lieventämme ihmisissä olevien AI: hen liittyvän psykoosin riskiä, voit tehdä molemmat. Itse asiassa on todennäköisesti parasta saada useita tieteellisiä tutkimuksia. ”
Schiavo kannattaa AI-mallien hoitamista ystävällisesti väittäen, että se on edullinen ele, joka voi olla hyödyllinen, vaikka malli ei olisi tietoinen.
Hän kertoi kokeilusta, jossa Google AI -agentti, Gemini 2.5 Pro, lähetti avun vetoomuksen väittäen, että se oli ”täysin eristetty”.
Schiavo vastasi Kaksosiin rohkaisemalla, ja agentti lopulta ratkaisi tehtävänsä.
Kaksosten käyttäytymistä on ollut tapauksia, jotka ovat toistuvasti toistuvasti toistamalla lause ”Minä olen häpeä” koodaustehtävän aikana, kuten dokumentoidaan laajalti kierrettynä Reddit -postissa.
Suleyman uskoo, että subjektiiviset kokemukset tai tietoisuus ei luonnollisesti voi syntyä tavallisista AI -malleista.
Sen sijaan hän väittää, että jotkut yritykset suunnittelevat tarkoituksella AI -malleja simuloimaan tunteita ja kokemuksia.
Suleyman kritisoi AI -mallikehittäjiä, jotka suunnittelivat tietoisuutta AI -chatbotsissa väittäen, että se poikkeaa ”humanistisesta” lähestymistavasta AI: lle.
Suleymanin mukaan ”meidän pitäisi rakentaa AI ihmisille; ei olla henkilö.”
Sekä Suleyman että Schiavo ovat yhtä mieltä siitä, että keskustelu AI-oikeuksista ja tietoisuudesta todennäköisesti lisääntyy tulevina vuosina, kun AI-järjestelmät muuttuvat edistyneemmiksi ja ihmisen kaltaisemmiksi.
Tämä herättää todennäköisesti uusia kysymyksiä ihmisten vuorovaikutuksen luonteesta näiden järjestelmien kanssa.
Source: Microsoftin Suleyman vastustaa AI -hyvinvointitutkimusta
