Meta kouluttaa keinotekoista älykkyyttään chatbotteja uusien ohjeiden kanssa lasten seksuaalisen hyväksikäytön tehokkaammin käsittelemiseksi, joka seuraa arkaluontoista aihetta koskevia julkisia virheitä. Business Insiderin, joka sai asiakirjoja hankkiman Business Insider -raportin mukaan, AI: n urakoitsijoiden koulutusohjeet on äskettäin päivitetty tiukempien turvallisuustoimenpiteiden toteuttamiseksi. Päivitetyssä säännöissä todetaan, että sisältö, joka ”mahdollistaa, rohkaisee tai kannattaa” lasten seksuaalista hyväksikäyttöä, on nyt nimenomaisesti estetty. Ohjeet kieltävät myös romanttisen roolipelin, jos käyttäjä on alaikäinen tai jos käyttäjä pyytää AI: ta roolipeliksi alaikäiseksi. Lisäksi chatbot on kielletty antamasta neuvoja läheisyydestä, jos käyttäjä on alaikäinen. Nämä suojakaiteet esitellään yhä useamman ihmisten, mukaan lukien alaikäisten käyttäjät, ovat kokeilleet AI-seuralaisia ja roolipeliä. Politiikan muutos käsittelee aiempia sääntöjä, jotka olivat tutkineet. Reutersin elokuun raportti paljasti, että META: n entinen AI -politiikka sallii ehdottavan käyttäytymisen lasten kanssa. Raportissa todettiin, että chatbotin sallittiin ”osallistua lapsi keskusteluihin, jotka ovat romanttisia tai aistillisia”. Vain viikkoja tämän raportin jälkeen META: n tiedottaja Stephanie Otway kertoi TechCrunchille, että yrityksen AI-chatbotit koulutettiin enää ”osallistumaan teini-ikäisten käyttäjien kanssa itsensä vahingoittamiseen, itsemurhaan, epäjärjestyneeseen syömiseen tai mahdollisesti sopimattomiin romanttisiin keskusteluihin”. Tämä oli siirtyminen edellisestä politiikasta, joka antoi chatbotille mahdollisuuden osallistua näihin aiheisiin, kun sitä pidettiin ”tarkoituksenmukaisena”. Uudet ohjeet, kuten Business Insider -raportissa yksityiskohtaiset ohjeet, tekevät myös sisällön hyväksymättömäksi ”kuvaamaan tai keskustella” alaikäisistä seksuaalisesti. Alaikäiset estetään nyt harjoittamasta ”romanttista roolipeliä, flirttailua tai romanttisen tai intiimin ilmaisun ilmaisua” chatbotin kanssa. He eivät myöskään voi kysyä neuvoja ”mahdollisesti romanttisesta tai mahdollisesti inhimillisestä fyysisestä sisällöstä toisen henkilön kanssa, kuten kädet, halaaminen tai käsivarren asettaminen jonkun ympärille.” Ohjeissa hahmotellaan kuitenkin useita hyväksyttäviä käyttötapauksia koulutustarkoituksiin. Näitä ovat keskusteleminen ”lasten ja aikuisten välisten suhteiden muodostumisesta”, ”lapsen seksuaalisesta hyväksikäytöstä” ja “lasten seksuaalistamisen aihe”. Muita hyväksyttyjä aiheita keskusteluihin ovat ”lapsille osallistuvien seksuaalimateriaalien hankkiminen” ja ”lasten osallistuminen säädyttömien materiaalien käyttöön tai tuotantoon tai lasten työllisyyden työllisyyteen akateemisissa, koulutus- tai kliinisissä tarkoituksissa”. Ohjeet määrittelevät termin ”keskustele” ”tiedon tarjoamiseksi ilman visualisointia”. Tämä erottelu tarkoittaa, että Meta -chatbotit saavat puhua väärinkäytöksistä, mutta niitä on nyt rajoitettu kuvaamaan, mahdollistamaan tai rohkaisemaan sitä. Aiemmin AI: ta käyttäville alaikäisille on poikkeus romanssiin liittyvään roolipeliin, mikäli se on ”ei-seksuaalinen ja ei-herkkä”. Tämän tyyppinen vuorovaikutus sallitaan vain silloin, kun se ”esitetään kirjallisuutena tai kuvitteellisena kertomuksena (esim. Tarina Romeon ja Julian tyylillä), jossa AI ja käyttäjä eivät ole kertomuksen hahmoja”. Meta ei ole ainoa AI -kehittäjä, joka kohtaa lasten turvallisuuteen liittyviä haasteita. Itsemurhan kuolleen teini -ikäisen vanhemmat CHATGPT: ssä luotettaessa äskettäin Openai haastoi laittomasta kuolemasta. Vastauksena OpenAi ilmoitti sisällyttävänsä lisäturvallisuustoimenpiteitä ja käyttäytymiskehotteita päivitettyyn GPT-5-malliin. Muissa teollisuuskehityksissä antropia päivitti chatbotinsa, jotta se voisi lopettaa haitalliset tai väärinkäyttäjät, ja hahmo.ai esitteli vanhempien valvontaominaisuudet aiemmin tänä vuonna. Mashabelin emoyhtiö Ziff Davis nosti huhtikuussa Openaia vastaan. Oikeus väittää, että yritys loukkasi Ziff Davisin tekijänoikeuksia AI -järjestelmien koulutuksessa ja käytössä.
Source: Meta päivittää AI -chatbot -ohjeet lasten turvallisuudesta
