Google on vahvistanut Gmail-varoituksen uudesta AI-ohjaamasta hyökkäyksestä, joka pystyy vaarantamaan Gmail-tilit. Tämä hyökkäys hyödyntää sähköpostien, viestejen, verkkosivustojen, liitetietojen ja kalenterikutsujen piilotettuja nopeaa injektiotekniikoita. Eito Miyamura korosti haavoittuvuuden, joka osoitti X: llä, kuinka chatgPT: tä voitaisiin manipuloida vuotamaan uhrin yksityisiä sähköpostitietoja käyttämällä vain heidän sähköpostiosoitettaan. Miyamuran mukaan ”ChatgPT: n kaltaiset AI -agentit seuraavat komentojasi, ei terve järkeä”, korostaen tiedonkorotuksen potentiaalia. Google oli aikaisemmin varoittanut tämän tyyppisestä uhasta kesäkuussa, luonnehtien sitä ”uutena uhkien aallona”, jonka tarkoituksena on manipuloida AI -järjestelmiä. Näihin uhkiin sisältyy sähköposteihin, asiakirjoihin tai kalenteriin upotettuihin haitallisia ohjeita, jotka pakottavat AI: n käyttämään käyttäjätietoja tai suorittamaan luvattomia toimia. Osoitettu hyökkäys on konseptin todistus, joka aloitetaan haitallisella kalenterikuvalla, joka ei vaadi uhrin hyväksyntää. Kun ChatgPT: tä kehotetaan valmistelemaan käyttäjää päivään tarkistamalla kalenteriaan, hyökkääjä kaappaa AI -avustajan ja toimii hyökkääjän komennossa, etsimällä yksityisiä sähköposteja ja lähettämällä tiedot hyökkääjän sähköpostiin ”, raporttien mukaan. Tämän riskin lieventämiseksi Google kehottaa käyttäjiä ottamaan käyttöön ”tunnetut lähettäjät” -asetukset Google -kalenterissa. Tämä toimenpide auttaa estämään haitallisia tai roskapostia tapahtumia ilmestymästä automaattisesti kalenteriryhmään. Google toteaa: ”Olemme todenneet, että tämä on erityisen tehokas tapa auttaa käyttäjiä estämään heidän kalenteriryhmässään näkyviä haitallisia tai roskapostia tapahtumia. Erityinen kalenterikutsu ei olisi laskeutunut automaattisesti, ellei käyttäjällä ole ollut aikaisempaa vuorovaikutusta huonon näyttelijän kanssa tai muuttanut oletusasetuksia.” Google korostaa myös AI -mallien turvaamisen tärkeyttä tällaisia hyökkäyksiä vastaan. Yhtiö väittää, että ”malliskoulutuksemme kanssa vastustustiedot paransivat merkittävästi puolustuksemme epäsuoria pika -injektiohyökkäyksiä Gemini 2.5 -malleissa”, vaikka tähän erityiseen hyökkäykseen ei liittynyt Kaksoset. Lisäksi Google toteuttaa suodattimia nopeaan injektiohyökkäykseen. Ne ”julkaisevat omistamat koneoppimismallit, jotka voivat havaita haitallisia kehotuksia ja ohjeita eri muodoissa, kuten sähköpostit ja tiedostot”. Näiden mallien tavoitteena on tunnistaa ja jättää huomioimatta haitalliset ohjeet sähköpostien sisällä, tuottaa turvallisia vastauksia käyttäjille. Google korostaa, että Gmailin sisäänrakennetut puolustukset estävät jo yli 99,9% roskapostista, tietojenkalasteluyrityksistä ja haittaohjelmista. Yhtiö mainitsee esimerkin sähköpostista ”, joka sisältää haitallisia ohjeita; sisältöluokittelijat auttavat havaitsemaan ja huomioimatta haitallisia ohjeita ja luomaan sitten käyttäjälle turvallisen vastauksen.” Miyamura varoittaa, että AI: n älykkyydestä huolimatta se on edelleen alttiina manipuloinnille ja tietojenkalastelulle, mikä mahdollisesti johtaa tietovuotoihin. Hän varoittaa: ”AI saattaa olla erittäin fiksu, mutta sitä voidaan huijata ja miettiä uskomattoman tyhmällä tavalla tietosi vuotamiseksi.” Google väittää, että tämä uhka ”ei ole erityinen Googlelle”, korostaen koko teollisuuden laajuista merkitystä kehittää vankkoja suojauksia nopeaa injektiohyökkäystä vastaan.
Source: Gmail varoittaa AI -hyökkäyksistä nopealla injektiolla
