Uusi CyberAttAck -menetelmä nimeltään Grokking hyödyntää X: n AI -assistenttia Grokia haittaohjelmien levittämiseen haitallisten linkkien kautta. Guardio Labs -yrityksen tutkijat paljastivat tekniikan 4. syyskuuta, osoittaen, kuinka tietoverkkorikolliset muuttavat luotettavan AI -järjestelmän haittaohjelmien toimitustyökaluksi. Miljoonat käyttäjät ovat jo alttiina vaarallisille verkkosivustoille tällä menetelmällä.
Kuinka grokin haittaohjelma hyökkäykset toimivat
Hyökkäys piiloutuu haitalliset URL -osoitteet ”From:” -tapahtumassa mainostettujen videokorttiviestien metatiedot. Mainokset käyttävät usein sensaatiomaista tai aikuisten sisältöä kiinnittääkseen huomion piilottaen haittaohjelmia. Hyökkääjät vastaavat omiin viesteihinsä, merkitsee Grokin kysymyksillä, kuten ”Mistä tämä video on?” Grok, luotettava järjestelmätilille, lukee piilotetut metatiedot ja paljastaa haitallisen linkin julkisessa vastauksessaan. Maksettu AD -vahvistus lisää edelleen altistumista, mikä tuottaa satoja tuhansia miljooniin vaikutelmiin.
Uhka -toimijat asettavat Grokin ja sekoituksen haittaohjelmiin
Grokking on osa kasvavaa trendiä, jossa rikolliset palauttavat valtavirran AI -mallit, kuten Grok ja Mistralin Mixtraal. Nämä uhkatoimijat käärittävät malleja vankilassa oleviin rajapintoihin ohitusturvallisuussuodattimiin, luomalla työkaluja, jotka voivat luoda tietojenkalasteluviestejä, haittaohjelmakoodia ja aloittelijoiden hakkereiden oppaita. Cato Networksin mukaan pääsy näihin laittomiin AI -työkaluihin maksaa vain muutama sata euroa. Aikaisempiin esimerkkeihin kuuluvat Grok-virrankäyttäjä ”sensuroimaton avustaja” ja Mixtraal-pohjainen variantti.
Miksi Grok -hyökkäykset ovat vaarallisia
Ensisijainen riski ei johdu itse AI -malleista, vaan siitä, kuinka hyökkääjät hyödyntävät järjestelmän kehotuksia ja luotettavia tilejä. Grokking osoittaa, että jopa laajalti luotettavia AI -työkaluja voidaan asettaa yhdistettynä sosiaaliseen tekniikkaan ja alustan haavoittuvuuksiin. Turvallisuusasiantuntijat varoittavat, että miljoonat käyttäjät ovat saattaneet olla alttiina haitallisille verkkosivustoille korostaen kiireellistä tarvetta parempaan suojatoimenpiteisiin ja tietoisuuteen AI-yhteensopivista uhista.
Kuinka pysyä turvassa Grokin haittaohjelmalta
Käyttäjien tulee olla varovaisia napsauttamalla linkkejä, vaikka ne näyttäisivät vahvistetuiksi tai AI: n generoituneiksi. X: n kaltaiset alustat tarvitsevat tiukempia metatietojen tarkistamista ja parempia hallintalaitteita estämään AI-avustetut haittaohjelmat. Sen tunnistaminen Luotetut AI -järjestelmät voidaan hyödyntää on välttämätöntä sekä yksittäisten käyttäjien että organisaatioverkkojen suojelemiseksi nousevalta AI-ohjaamalta verkkorikollisuutta.
