Nykyaikaiset tekoälyjärjestelmät tekevät jäsenneltyjä arvioita ihmisistä, jotka muistuttavat ihmisten luottamusta, mutta eroavat merkittävästi metodologialtaan, Heprealaisen yliopiston uuden tutkimuksen mukaan. *Proceedings of the Royal Societyssa* julkaistussa tutkimuksessa analysoitiin yli 43 000 simuloitua päätöstä ja noin 1 000 ihmisen osallistujaa viidessä skenaariossa.
Näihin skenaarioihin sisältyi lainapäätösten arviointi, lastenvahtiin kohdistuvan luottamuksen arvioiminen, pomon suoritusten arvioiminen ja lahjoitusten määrittäminen voittoa tavoittelemattomille perustajille. Sekä ihmiset että tekoäly suosivat henkilöitä, jotka koettiin päteviksi, rehellisiksi ja hyvää tarkoittaneiksi.
Professori Yaniv Dover totesi: ”Tekoäly ei tee satunnaisia päätöksiä. Se kuvaa jotain todellista siitä, kuinka ihmiset arvioivat toisiaan.” Ihmiset muodostavat kuitenkin kokonaisvaltaisia vaikutelmia yhdistämällä useita piirteitä, kun taas tekoäly arvioi erillisiä ominaisuuksia, kuten osaamista ja rehellisyyttä.
Valeria Lerman selitti: ”Tekoäly on puhtaampi, järjestelmällisempi, ja se voi johtaa hyvin erilaisiin tuloksiin.” Tämä rakenteellinen lähestymistapa oli ilmeinen jopa identtisessä kontekstissa arvioitavista yksilöistä.
Tutkimuksessa havaittiin, että tekoälyharha voi olla järjestelmällisempää, ennustettavampaa ja joskus voimakkaampaa kuin ihmisen harha. Taloudellisissa yhteyksissä tekoälyjärjestelmissä oli merkittäviä eroja väestörakenteen ominaisuuksien perusteella. Vanhemmat ihmiset suosittiin usein lainaus- ja lahjoituspäätöksissä, kun taas uskonto ja sukupuoli vaikuttivat myös tuloksiin valituissa tekoälymalleissa.
Erityisesti eri tekoälymallit voivat tuottaa erilaisia arvioita samasta henkilöstä, mikä osoittaa, että tekoälyjärjestelmän valinta voi vaikuttaa merkittävästi todellisiin tuloksiin. ”Millä mallilla käytät todella merkitystä”, Lerman huomautti.
Suuria kielimalleja hyödynnetään yhä enemmän työnhakijoiden seulonnassa, luottokelpoisuuden arvioinnissa ja organisaation päätösten ohjaamisessa. Tekoäly saattaa heijastaa ihmisen päättelyn näkökohtia, mutta siitä puuttuu vain ihmisille ominaista vivahteikas ymmärrys.
”Nämä järjestelmät ovat tehokkaita”, Dover huomautti. ”He voivat mallintaa inhimillisen päättelyn näkökohtia johdonmukaisella tavalla. Mutta he eivät ole ihmisiä, emmekä saa olettaa, että he näkevät ihmiset samalla tavalla kuin me.”
Tutkijat korostavat, että tutkimus korostaa tarvetta ymmärtää tekoälyn arviot näiden järjestelmien siirtyessä työkaluista itsenäisiksi päätöksentekijöiksi. He vaativat tietoisuutta varovaisuuden sijaan keskittyen tarpeeseen ymmärtää, miten tekoäly näkee luottamuksen.
