Useimmissa hakukoneissa on nyt oletuksena tekoälyn luomat yleiskatsaukset, mikä herättää huolta tarkkuudesta ja napsautusliikenteen vähenemisestä. Vaikka testit osoittavat, että Googlen tekoälykatsaukset ovat suurelta osin luotettavia, suuri määrä kyselyitä johtaa miljooniin epätarkkuuksiin päivittäin.
New York Timesin mukaan noin joka kymmenes Googlen tekoälyhaun yleiskatsaukset sisältävät vääriä tietoja. Google käsittelee noin 5 biljoonaa kyselyä vuosittain, jolloin käyttäjät altistuvat teoriassa yli 57 miljoonalle epätarkalle vastaukselle joka tunti – lähes miljoonalle joka minuutti.
Nämä tilastot perustuvat tekoälystartup Oumin analyysiin, jossa tutkittiin 4 326 hakua Googlen tekoälyavustajan Geminin tarkkuuden arvioimiseksi. Oumi raportoi, että Gemini-versio 2 toimitti tarkat yleiskatsaukset 85 prosenttia ajasta lokakuussa. Parannettu versio, Gemini 3, nosti tarkkuuden 91 prosenttiin helmikuuhun mennessä.
Oumin analyysi perustuu kuitenkin tekoälytyökaluihin, jotka voivat myös aiheuttaa virheitä. Lisäksi Google tuottaa joskus erilaisia tekoälykatsauksia samalle kyselylle, kun se toistetaan sekunnin välein.
Googlen tiedottaja kritisoi Oumi-testausta ja piti sitä virheellisenä eikä edusta todellista hakukäyttäytymistä. Googlen sisäiset arviot osoittavat, että Gemini 3 hallusinoi 28 prosenttia ajasta, kun se toimii itsenäisesti Google-hausta.
Myös hankinnassa on merkittäviä ongelmia. Google pyrkii tukemaan tekoälykatsauksiaan asiaankuuluvilla linkeillä; monet näistä linkeistä eivät kuitenkaan tue Geminin väitteitä. Erot tekoälykatsausten ja niissä mainittujen lähteiden välillä kasvoivat Gemini 2:n 37 prosentista Gemini 3:n 56 prosenttiin helmikuun päivityksen jälkeen.
Tutkijat korostivat tekoälykatsausten haavoittuvuutta manipulaatiolle; yksi tapaus koski BBC:n toimittajaa, jonka vääriä väitteitä Google toisti seuraavana päivänä. Sekä Google että muut tekoälyyritykset tunnustavat vastuuvapauslausekkeissaan tekniikan epäluotettavuuden.
