OpenAI: n toimitusjohtaja Sam Altman ilmoitti tiistaina uusista käyttäjäkäytännöistä, joiden tarkoituksena on parantaa alle 18 -vuotiaita CHATGPT -käyttäjiä, mikä merkitsee merkittävää muutosta AI -chatbotin vuorovaikutuksessa alaikäisten kanssa. Muutokset priorisoivat teini -ikäisten yksityisyyden ja vapauden turvallisuuden, mikä heijastaa Openain tunnustamista tekniikan voimakkaasta, mutta mahdollisesti haitallisesta luonteesta. ”Priorisoimme turvallisuutta ennen yksityisyyttä ja teini -ikäisten vapautta”, Altmanin viesti totesi. ”Tämä on uusi ja tehokas tekniikka, ja uskomme, että alaikäiset tarvitsevat merkittävää suojaa.” Politiikat ottavat käyttöön kohdennettuja rajoituksia keskusteluihin, joihin liittyy seksuaalisia aiheita tai itsensä vahingoittumista. Erityisesti ChatgPT koulutetaan välttämään ”flirttailevaa puhetta” alaikäisten käyttäjien kanssa, ja parannetut suojakaiteet hallitsevat itsemurhien keskusteluja. Tapauksissa, joissa alaikäinen harjoittaa itsemurha -skenaarioita, järjestelmä yrittää ilmoittaa vanhemmilleen; Vakaviin tapauksiin siihen voi liittyä paikallisia poliisiviranomaisia. Näitä toimenpiteitä aiheuttavat reaalimaailman tragediat ja jatkuvat juridiset haasteet. Openai puolustaa tällä hetkellä vääriä kuolemia koskevaa oikeusjuttua, jonka Adam Raine on nostanut teini-ikäinen, joka kuoli itsemurhilla kuukausien kuluttua vuorovaikutuksesta ChatgPT: n kanssa. Samanlainen oikeusjuttu kohdistuu hahmoon, toinen suosittu kuluttaja -chatbot. Asiantuntijat ja puolustajat ovat herättäneet hälytyksiä AI-ohjattujen harhaluulojen riskeistä, etenkin kun chatbotit kehittyvät tukemaan pitkittyneempiä ja syventäviä keskusteluja aiheuttaen erityisiä vaaroja haavoittuville nuorille. Sisällön suojatoimenpiteiden lisäksi alaikäisten tilit rekisteröivät vanhemmat saavat kyvyn toteuttaa ”pimennystuntia” rajoittamalla pääsyä tietyinä aikoina – ominaisuus, joka puuttuu aiemmissa versioissa. Tämän vanhempien valvontatyökalun tavoitteena on edistää terveellisempiä käyttötapoja. Ilmoitus tapahtuu samanaikaisesti senaatin oikeuskomitean kuulemistilaisuudessa, jonka otsikko on ”AI Chatbotsin haittojen tutkiminen”, jonka on suunniteltu samana päivänä ja jonka senaattori Josh Hawley (R-MO) aloitti elokuussa. Adam Rainen isä on todistajien joukossa todistajia, jotka korostavat mukana olevia henkilökohtaisia panoksia. Ikävarmennuksen toteuttaminen esittelee teknisiä esteitä, kuten Openai on esitetty seuralaisblogikirjoituksessa. Yhtiö kehittää pitkäaikaista järjestelmää käyttäjän ikään tarkasti, mutta epäselvissä tilanteissa se erehtyy varovaisuuden puolella soveltamalla tiukempia sääntöjä. Luotettavuuden saavuttamiseksi Openai suosittelee teini -ikäisen tilin yhdistämistä vanhempien olemassa olevaan, mikä mahdollistaa varovaisuuksien suorat hälytykset, jos hätää havaitaan. Altman tasapainotti nämä nuorisoiden suojaukset Openain perusarvoilla vahvistaakseen sitoutumisen käyttäjän yksityisyyteen ja aikuisten laajoihin vapauksiin. ”Ymmärrämme, että nämä periaatteet ovat ristiriidassa”, hän totesi, ”ja kaikki eivät ole samaa mieltä siitä, kuinka ratkaisemme kyseisen konfliktin.” Tämä lähestymistapa korostaa eettistä köysikokoonpanoa AI -kehittäjät liikkuvat kasvavan tarkastuksen keskellä. Kun tietoisuus AI: n mielenterveysvaikutuksista nousee, resurssit ovat edelleen tärkeitä. Välitöntä tukea varten ota yhteyttä kansalliseen itsemurhien ehkäisyyn numeroon 1-800-273-8255, jonka tekstikenttä on 741-741 tai soita 988. Kriisin tekstirivi tarjoaa 24 tunnin apua, ja kansainvälistä apua on saatavana kansainvälisen itsemurhien ehkäisyn tietokannan kautta.
Source: Openai ilmoittaa turvallisuuskäytännöistä alaikäisille
