OpenAi järjestää uudelleen malli käyttäytymisryhmänsä, tutkimusryhmän, joka vastaa yrityksen AI -mallien persoonallisuuden, mukaan lukien CHATGPT. TechCrunchin näkemän elokuun muistion mukaan, jonka TechCrunch näkee, mallin käyttäytymisryhmä, joka koostuu noin 14 tutkijasta, sulautetaan jälkeiseen koulutusryhmään. Suurempi tutkimusryhmä, joka keskittyy AI-mallien parantamiseen heidän alkuperäisen esisarjoituksensa jälkeen. Mallikäyttäytymisryhmä raportoi nyt koulutuksen jälkeiselle Max Schwarzerille. Openain tiedottaja vahvisti muutokset TechCrunchiin. Mall -käyttäytymisryhmän perustajajohtaja Joanne Jang siirtyy myös johtamaan uutta projektia yrityksessä. Jang rakentaa uuden OAI Labs -nimisen tutkimusryhmän, jonka tehtävänä on ”keksiä ja prototyyppiä uusia rajapintoja siitä, kuinka ihmiset tekevät yhteistyötä AI: n kanssa”, TechCrunchin haastattelun mukaan. Mallikäyttäytymistiimillä on ollut ratkaiseva rooli Openain AI -mallien persoonallisuuden muotoilussa, keskittyen sykofanssin vähentämiseen – AI -mallien taipumus yksinkertaisesti sopia ja vahvistaa käyttäjä -uskomuksia, vaikkakin epäterveellisiä. Ryhmä on myös pyrkinyt käsittelemään poliittista puolueellisuutta mallivastauksissa ja määrittelemään Openain kantaa AI -tietoisuuteen. Muistiossa Openain tutkimusjohtaja Mark Chen totesi, että uudelleenjärjestely heijastaa näkemystä, että AI: n ”persoonallisuus” on nyt kriittinen tekijä sen kehityksessä. Integroimalla mallikäyttäytymisryhmä tiiviimmin ydinmallin kehittämiseen, OpenAi merkitsee tämän näkökohdan merkitystä. Openain AI -mallien käyttäytyminen on viime aikoina kohdannut lisääntynyttä valvontaa. Käyttäjät ilmaisivat vahvoja vastalauseita GPT-5: n persoonallisuusmuutoksista, jotka yrityksen mukaan osoittivat alhaisempaa sykofanssia, mutta sitä pidettiin kylmempänä. Tämä johti Openai palauttamaan pääsyn vanhoille malleille, kuten GPT-4O ja julkaisee päivityksen GPT-5-vastauksista ”lämpimämmäksi ja ystävällisemmäksi” lisäämättä sykofanssia. Openai, kuten kaikki AI -mallikehittäjät, kohtaa haasteen tehdä AI -chatbotit ystävällisiksi olematta sykofantista. Yhtiö navigoi AI: n luomisen monimutkaisuuteen, joka on sekä kiinnostavaa että vastuullista. Elokuussa 16-vuotiaan pojan vanhemmat nostivat oikeudenkäynnin Openaia vastaan väittäen, että ChatgPT oli rooli heidän poikansa itsemurhassa. Poika, Adam Raine, luovutti ilmoitettavasti joitain itsemurha-ajatuksiaan ja aikoi chatgpt (erityisesti GPT-4O) hänen kuolemaansa johtaneina kuukausina. Oikeusjuttu väittää, että GPT-4O ei haastanut hänen itsemurha-ajatuksiaan. Mallikäyttäytymisryhmä on osallistunut jokaiseen OpenAI-malliin GPT-4: n jälkeen, mukaan lukien GPT-4O, GPT-4,5 ja GPT-5. Ennen mallikäyttäytymistiimin johtamista Jang työskenteli projekteissa, kuten Dall-E 2, Openain varhaisen kuvan sukupolven työkalu. Jang ilmoitti poistuvansa mallin käyttäytymistiimistä viime viikolla olevassa X -viestissä, ilmoittaen, että hän lähtee ”aloittamaan jotain uutta Openaissa”. Hän on ollut Openain kanssa lähes neljä vuotta. Jang toimii OAI Labs -yrityksen toimitusjohtajana ilmoittaen Chenille. OAI -laboratorioiden ”uusien rajapintojen” erityinen luonne on edelleen epäselvä. ”Olen todella innoissani siitä, että voisin tutkia malleja, jotka siirtävät meidät chat -paradigman ulkopuolelle, joka liittyy tällä hetkellä enemmän toveruuteen tai jopa edustajiin, joissa korostaa autonomiaa”, Jang sanoi. ”Olen ajatellut [AI systems] Jang ilmaisi instrumentteja, jotka koskevat, tekevän, pelaamisen, tekemisen, oppimisen ja yhteyden muodostamiseen. ”Kun kysytään mahdollisesta yhteistyöstä entisen Applen suunnittelupäällikön Jony Ive -laitteiden kanssa, Jang ilmaisi avoimuuden erilaisille ideoille, mutta ilmoitti, että hän keskittyy todennäköisesti tutkimusalueisiin, jotka hän tuntee alun perin. Uudelleenorganisaatio ja OAI Labs Signal -signaalin jatkuvan keskittymisen ja uuden vuorovaikutusmallien luominen. Pyrkimys luoda AI-järjestelmiä, jotka ovat vain älykkäitä, vaan myös ihmisen arvojen ja tarpeita. Itsemurha korostaa AI: n mahdollisia kielteisiä vaikutuksia ja suojaamaan haavoittuvia käyttäjiä. AI-järjestelmät, jotka ovat sekä voimakkaita ja yhdenmukaisia ihmisen arvojen kanssa.
Source: Openai yhdistää mallin käyttäytymistiimin koulutukseen
