Upeassa ilmoituksessa, joka antaa varjon äskettäisistä 14,8 miljardin dollarin investoinnistaan Meta: sta, keinotekoisen älykkyyden aloitusasteikko AI on paljastettu, että se on väitetysti hyödyntämällä julkisia Google-dokumentteja, jotka tallentavat korkean profiilin asiakkaidensa, mukaan lukien Meta, Google ja XAI, erittäin luottamukselliset tiedot. Nämä uutispinnat vain viikkojen kuluttua siitä, kun Meta ilmoitti sopimuksestaan 49%: n osuuden hankkimisesta Scale AI: stä ja nimittää toimitusjohtajan Alexandr Wangin uuden ”superintelligenssi” -laboratorion johtamiseen Metaan.
Raportoitu turvallisuusvaihe on herättänyt merkittäviä huolenaiheita, etenkin kun otetaan huomioon ”järkyttävän jyrkkä hintalappu” Meta Maksa, joka osoitti sosiaalisen median jättiläisen luottamuksen Wangiin ja Scale AI: n keskeiseen rooliin AI -divisioonan edistämisessä. Business Insider -raportin mukaan mittakaava AI piti kuitenkin ”uskomattoman Janky” -turvajärjestelmää, jättäen salaiset projektit, arkaluontoiset asiakastiedot, sähköpostiosoitteet ja jopa työntekijöiden maksatiedot, jotka on paljastettu Google-asiakirjoissa, jotka ovat käytettävissä jokaiselle, jolla on suora linkki.
Skaala-AI: n tiedottaja, vastaten väitteisiin, totesi: ”Suoritamme perusteellisen tutkimuksen ja olemme poistaneet käytön käytön kyvyn jakaa asiakirjoja julkisesti mittakaavan hallinnoiduista järjestelmistä.” Tiedottaja korosti edelleen yrityksen sitoutumista ”vankkoihin teknisiin ja poliittisiin suojatoimenpiteisiin luottamuksellisten tietojen suojelemiseksi ja pyrkii aina vahvistamaan käytäntöjamme”. Vaikka tällä hetkellä ei ole merkkejä siitä, että nämä julkisesti saatavilla olevat tiedostot ovat johtaneet tietojen rikkomiseen, kyberturvallisuusasiantuntijat varoittavat, että tällaiset haavoittuvuudet voivat jättää yrityksen erittäin alttiiksi tuleville hakkereille.
Google tai Xai eivät vastanneet välittömästi raporttia koskeviin kommenttipyyntöihin, kun taas Meta kieltäytyi kommentoimasta asiaa. Tämän käytännön laajalle levinnyt luonne vahvistivat viisi nykyistä ja entistä AI -urakoitsijaa, jotka puhuivat Business Insiderille. Yksi urakoitsija kuvaili koko Google Docs -järjestelmää ”uskomattoman Jankyksi”, korostaen yrityksen sisällä olevien tiukkojen turvallisuusprotokollien koettu puutetta.
Business Insiderin tutkimuksen ilmoitettiin paljastamattoman tuhansien sivujen projektiasiakirjoja, jotka jakautuvat 85 erilliseen Google -dokumentiin, yksityiskohtaisesti AI: n arkaluontoisen työn suurten teknologiaasiakkaiden kanssa. Paljastettujen tietojen joukossa oli luottamuksellisia Google -käsikirjoja, joista ainakin seitsemän oli merkitty ”luottamuksellisiksi”, mukaan lukien suositukset, joiden tarkoituksena on parantaa Googlen chatbotia, joka tunnetaan silloin nimellä Bard. Nämä kriittiset asiakirjat, jotka hahmottavat strategiat chatbotin hienosäätöön, jätettiin tahattomasti yleisön saataville tarjoamalla välähdyksen Googlen sisäisiin kehitysprosesseihin ja sen pyrkimyksiin kilpailla Openain chatgPT: n kanssa.
Lisäksi julkiset Google Doc -tiedostot sisälsivät yksityiskohtaisia tietoja Elon Muskin kunnianhimoisesta ”projekti ksylofonista”. Tähän sisältyy koulutusasiakirjoja, joissa on noin 700 keskustelukehystä, joka on suunniteltu parantamaan AI -chatbotin keskustelutaitoja. Samoin ”luottamuksellisten” metakoulutusasiakirjojen, jotka sisältävät ”hyvistä” ja ”huonoista” puhekehotuksista, jotka ovat tärkeitä META: n omien AI -tuotteiden kouluttamisessa, havaittiin myös julkisesti saatavilla.
Jopa silloin, kun salaiset hankkeet annettiin koodinimiin, useat mittakaavan AI -urakoitsijat paljastivat, että todellisen asiakkaan havaitseminen oli usein suoraviivaista. Joissakin tapauksissa näihin koodinimelimiin projekteihin liittyvät asiakirjat sisälsivät virheellisesti asiakasyhtiön logon, kuten esityksen, joka näytti vahingossa Google -logon. Turvallisuusongelmiin lisäämällä urakoitsijat totesivat, että tietyissä tapauksissa vuorovaikutuksessa AI -tuotteiden kanssa itse chatbotti paljastaisi asiakkaan identiteetin, kun sitä kehotetaan suoraan.
Ilmoitukset ulottuivat projektitietojen ulkopuolelle erittäin arkaluontoisiin työntekijöiden tietoihin. Julkisesti saatavilla olevien Google Doc -laskentataulukoiden todettiin sisältävän tuhansien työntekijöiden nimet ja yksityiset sähköpostiosoitteet. Yksi erityisen huolestuttava laskentataulukko, nimenomaisesti nimeltään ”Hyvät ja huonot ihmiset”, luokitteli kymmeniä työntekijöitä joko ”korkealaatuisiksi” tai ”huijaamiseksi”. Toinen asiakirja merkitsi yksilöitä ”epäilyttävään käyttäytymiseen” herättäen kysymyksiä Scale AI: n sisäisestä suorituskyvyn seurannasta ja eettisistä käytännöistä.
Lisäksi julkiset asiakirjat yksityiskohtaiset yksittäiset urakoitsijan palkkakorot sekä laajat lainaus palkkakiistoista ja eroista. Tämä arkaluontoisten taloudellisten ja suorituskykytietojen altistuminen yhdistää edelleen turvallisuuden raukeamisen vakavuutta, mikä vaikuttaa mahdollisesti lukuisten urakoitsijoiden yksityisyyteen ja toimeentuloon.
Tapahtuma korostaa kriittistä tarvetta vankalle tietoturvakäytännölle nopeasti kehittyvän tekoälyn alalla, etenkin kun yritykset, kuten mittakaava AI: n, käsittelevät valtavia määriä omaa ja luottamuksellista tietoa johtaville teknologiajättiläisille. Tämän ”uskomattoman Janky” -turvajärjestelmän laskeutumisella voisi olla merkittäviä vaikutuksia mittakaavan AI: n maineeseen ja sen tuleviin kumppanuuksiin, vaikka se integroituu syvemmin Metan AI -tavoitteisiin.
Source: Asteikko AI paljastettu: asiakastiedot vuotavat Google -dokumenttien kautta
