Google esitti yksityiskohtaisesti turvallisuusstrategiansa Chromen agenttiominaisuuksille, jotka mahdollistavat automaattiset toiminnot, kuten lippujen varaamisen tai ostokset, mahdollisten tietojen ja taloudellisten riskien torjumisen. Google käyttää useita malleja agenttitoimintojen hallintaan. Geminin kanssa rakennettu User Alignment Critic tutkii suunnittelijamallin luomia toimintokohteita. Jos kriitikkomalli määrittää, että suunnitellut tehtävät eivät vastaa käyttäjän tavoitteita, se kehottaa suunnittelijaa arvioimaan strategian uudelleen. Kriitikkomalli käyttää vain ehdotettujen toimien metatietoja, ei varsinaista verkkosisältöä. Google käyttää agentin alkuperäjoukkoja rajoittaakseen agenttien pääsyä kiellettyihin tai epäluotettaviin sivustoihin. Nämä joukot rajoittavat mallin tiettyihin vain luku – ja luku-kirjoitettavaan alkuperään. Vain luku -alkuperä määrittelee sisällön, jota Kaksoset voivat kuluttaa; esimerkiksi ostossivuston tuotelistaukset ovat osuvia, mutta bannerimainokset eivät. Agentti voi olla vuorovaikutuksessa vain sivulla olevien iframe-kehysten kanssa. Yritys totesi blogikirjoituksessaan: ”Tämä rajaus pakottaa sen, että agentin käytettävissä on vain tiedot rajatuista lähteistä, ja nämä tiedot voidaan välittää vain kirjoitettaville lähteille. Tämä rajoittaa lähteiden välisten tietovuotojen uhkavektoria. Tämä antaa selaimelle myös mahdollisuuden pakottaa osan erottelusta, esimerkiksi siten, että se ei edes lähetä mallin ulkopuolelle luettavaa dataa.” Google valvoo sivun navigointia toisen tarkkailijamallin avulla estääkseen pääsyn haitallisiin mallin luomiin URL-osoitteisiin. Arkaluonteisiin tehtäviin Google vaatii käyttäjän suostumuksen. Jos agentti yrittää päästä arkaluonteisille sivustoille, kuten pankki- tai lääketieteellisille alustoille, se pyytää käyttäjältä lupaa. Jos sivusto edellyttää kirjautumista, Chrome pyytää käyttäjältä lupaa käyttää salasananhallintaa. agentin malli ei pääse salasanatietoihin. Käyttäjiltä kysytään ennen kuin agentti ryhtyy toimiin, kuten ostamaan tai lähettämään viestin. Google käyttää myös pikainjektioluokitusta ei-toivottujen toimintojen estämiseksi ja arvioi tutkijoiden kehittämiä agenttivalmiuksia hyökkäyksiä vastaan. Aiemmin tässä kuussa Hämmennys julkaisi avoimen lähdekoodin sisällöntunnistusmallin, joka torjuu agentteja vastaan ​​kohdistetut hyökkäykset.

Suositeltu kuvan luotto

Source: Google käyttää Geminiä "kriitikko" malli Chrome-agenttien valvontaan