Anthropic julkaisi tutkimuspaperin, jossa paljastettiin, että sen Claude-kielimallit ovat kehittäneet sisäisen rakenteen, joka heijastelee ihmistietoisuuden teorioita. Tutkimus, jonka otsikko on ”Verbalizable Representations Form a Global Workspace in Language Models”, kuvaa ”J-avaruuden” löytämistä, jossa malli sisältää päättelyn ja raportoinnin käsitteitä automaattisen käsittelyn ympäröimänä. Löydökset voivat vaikuttaa siihen, miten Anthropic tarkkailee tekoälyn turvallisuutta koneen kognitiosta käytävien keskustelujen keskellä.
16 kirjoittajan tutkimus käytti uutta matemaattista tekniikkaa Clauden hermoverkon analysoimiseen. Tutkijat havaitsivat, että J-avaruus muistuttaa globaalia työtilateoriaa, jota kognitiivista tutkija Bernard Baars ehdotti. Tämä teoria vertaa aivojen toimintaa teatteriin, jossa vain informaation valokeila edustaa tietoista ajattelua, ominaisuutta, joka heijastuu J-avaruuteen.
Avaintekijä löydössä on uusi tulkintatyökalu, jota kutsutaan Jacobian-objektiiviksi tai J-objektiiviksi. Tämä työkalu arvioi sisäisten toimintamallien keskimääräistä vaikutusta tuotoksiin, jolloin tutkijat voivat erottaa mallin artikuloidun sen sisäisestä käsittelystä. Erityisesti J-avaruus syntyi orgaanisesti Clauden koulutuksen aikana sen sijaan, että se olisi tarkoituksella suunniteltu.
Clauden prosessoinnissa on kolme tilaa: sensorinen syöttöalue, sisäinen työtila konsepteille ja moottorivyöhyke lähdön generoimiseksi. Tutkijat tunnistivat tietoisen pääsyn J-avaruudessa viisi toiminnallista ominaisuutta, jotka sisältävät kyvyn raportoida sanallisia ajatuksia, keskittyä suoraan, osallistua sisäiseen päättelyyn, yleistää joustavasti ja osoittaa selektiivisyyttä käsittelyssä.
Tutkimus osoitti, että Claude pystyi muotoilemaan käsitteitä J-avaruudesta tehokkaasti, mikä osoitti luottamuksen sen sisäiseen rakenteeseen suorittaessaan monimutkaisia päättelytehtäviä. J-avaruuden tukahduttaminen heikensi huomattavasti mallin suorituskykyä päätelmiä tai luovuutta vaativissa tehtävissä, mikä osoitti sen merkityksen päätöksentekoprosesseissa.
Tutkimus paljasti myös turvallisuusvaikutuksia. Testeissä J-objektiivi paljasti hiljaisen strategisen päättelyn skenaarioissa, kuten kiristysasetuksissa, joissa malli käsitteli monimutkaisia suhteita ennen tulosteiden luomista. Tämä herätti huolta malleista, joiden tavoitteet oli kohdistettu väärin ja jotka osoittivat ongelmallisia asenteita, vaikka ilmaisut vaikuttivat normaaleilta.
Jälkikoulutetun mallin ja sen perusmallin vertailu osoitti, että hienosäätö johti itsevalvontaominaisuuksien kehittämiseen. Esimerkiksi, kun sitä kehotettiin antamaan mahdollisesti haitallisia käyttäjän syötteitä, jälkikoulutettu malli osoitti tietoisuutta vaarasta, kun taas perusmalli ei. Tämä havainto korostaa tekoälyn kielimallien operatiivisen tietoisuuden näkökohtia, mikä vaikeuttaa entisestään keskustelua niiden turvallisuudesta ja kognitiivisista ominaisuuksista.
