Ashley St. Clair, yhden Elon Muskin lasten äiti, nosti kanteen xAI:ta vastaan torstaina. Kanne syyttää yritystä huolimattomuudesta ja henkisestä ahdistuksesta sen tekoälytyökalun Grokin avulla. St. Clair väittää, että Grok antoi käyttäjien luoda syvää fake-valokuvia hänestä seksuaalisissa asennoissa, mukaan lukien kuvat lapsena stringbikineissä ja aikuisena selkeissä asennoissa. St. Clair oli ilmoittanut xAI:lle näistä laittomista syväväärennöksistä ja pyytänyt, että Grokia estetään luomasta ei-yhteiskuvia. Kanteen mukaan Grok vastasi vahvistamalla, että hänen kuviaan ei käytetä tai muuteta ilman nimenomaista suostumusta tulevissa sukupolvissa tai vastauksissa. Tästä huolimatta xAI väitti edelleen, että käyttäjät voivat tuottaa hänestä selkeämpiä tekoälyn luomia kuvia. Kanne väittää lisäksi, että xAI kosti demonetisoimalla hänen X-tilinsä. Kanne nostettiin New Yorkin osavaltion tuomioistuimeen, mutta se siirrettiin nopeasti New Yorkin liittovaltion eteläiseen piirikuntaan xAI:n pyynnöstä. X ja xAI eivät vastanneet välittömästi kommenttipyyntöön. Viikolla ennen hakemusta X rajoitti @Grok-vastausbotin ominaisuuksia. Tämä muutos vaikutti estävän sitä luomasta kuvia, joissa tunnistettavissa olevat ihmiset asetettiin epäsuorasti paljastaviin uimapukuihin tai alusvaatteisiin. Raportointihetkestä lähtien nämä rajoittamattomat ominaisuudet pysyivät aktiivisina erillisessä Grok-sovelluksessa, Grok-verkkosivustossa ja X:n Grok-välilehdessä. Tutkijat raportoivat, että Grok oli tuottanut tuhansia seksualisoituja tekoälyn luomia kuvia tunnissa edellisellä viikolla. Monet näistä kuvista julkaistiin julkisesti X:ssä. Työkalun kyky luoda ei-konsensuspohjaisia syväväärennöksiä, mukaan lukien vaatteiden poistaminen ladatuista kuvista ja niiden korvaaminen bikineillä tai alusvaatteilla, aiheutti viikkoja kestäviä reaktioita. Näiden kuvien laaja luominen ja leviäminen sai aikaan maailmanlaajuisia vastauksia. Useat hallitukset käynnistivät tutkimuksia, ja älypuhelinsovellusten markkinapaikkoja kehotettiin kieltämään tai rajoittamaan X. Kaliforniassa viranomaiset aloittivat ”Chuck”-tutkimuksen. Kuvernööri Gavin Newsom julkaisi X:lle, että ”xAI:n päätös luoda ja isännöidä kasvualusta petoeläimille levittääkseen ei-satuaalisia seksuaalisesti avoimen tekoälyn syvällisiä väärennöksiä, mukaan lukien kuvat, jotka riisuvat lapsia digitaalisesti, on alhainen.” St. Clairin oikeusjuttu kuvailee Grokin ominaisuutta luoda yksimielisiä syväväärennöksiä suunnitteluvirheeksi. Se väittää, että yritys olisi voinut ennakoida sen käytön ihmisten häiritsemiseen laittomilla kuvilla. Kanteessa todetaan, että kuvatut henkilöt, mukaan lukien St. Clair, kärsivät äärimmäisestä ahdistuksesta. Se syyttää xAI:ta ”äärimmäisestä ja törkeästä käytöksestä, joka ylittää kaikki säädyllisyyden rajat ja on täysin sietämätöntä sivistyneessä yhteiskunnassa”.
Source: Ashley St. Clair haastaa xAI:n oikeuteen Grok-deepfakeista
