OpenAi on vähentänyt merkittävästi AI -malliensa turvallisuustestausaikaa, mikä herättää huolenaiheita mahdollisista riskeistä ja haitoista, jotka liittyvät uusien mallien nopeaan vapauttamiseen.
Kahdeksan henkilöä, joko Openain tai kolmansien osapuolien testaajien henkilökunta, paljasti, että heillä on nyt ”vain päiviä” suorittaa arvioita uusista malleista, prosessista, joka aiemmin kesti ”useita kuukausia”. Tämä testiajan dramaattinen väheneminen johtuu Openain halusta ylläpitää kilpailukykyistä reunaa, etenkin kilpailun edessä avoimien malleista, joita Kiinan AI Startup Deepseekin kaltaiset yritykset ovat kehittäneet.
Arvioinnit ovat ratkaisevan tärkeitä mallisirkien ja haittojen tunnistamisessa, kuten potentiaali vangita malli biojen luomiseksi. Vertailun vuoksi lähteet totesivat, että Openai antoi heille kuusi kuukautta tarkistaa GPT-4 ennen sen julkaisua, ja he havaitsivat kyvyistä vain kahden kuukauden kuluttua. Openain uuden mallin, O3: n nykyisen testausprosessin ei ole ilmoitettu olevan niin perusteellinen, ja siitä puuttuu tarvittava aika ja resurssit riskien asianmukaiseksi saamiseksi ja lieventämiseksi.
Yksi henkilö, joka on tällä hetkellä testannut O3: n täysversiota, kuvasi muutosta ”holtiton” ja ”katastrofin resepti”. Openain huhutaan julkaisevan O3: n ensi viikolla, jonka mukaan lähteiden mukaan kiirehti testausaikataulun alle viikkoon. Openain turvallisuusjärjestelmien päällikkö Johannes Heidecke väitti, että yrityksellä on ”hyvä tasapaino siitä, kuinka nopeasti liikkumme ja kuinka perusteelliset olemme”. Field Express -hälytyksen testaajat ja asiantuntijat vähentyneellä testausajalla ja siihen liittyvät mahdolliset riskit.
AI -mallien alueen hallituksen sääntelyn puutetta korostetaan Openain testauksen aikajanan muutos. Huolimatta Biden -hallinnon kanssa allekirjoittamisesta vapaaehtoisia sopimuksia rutiinitestauksen suorittamiseksi Yhdysvaltain AI -turvallisuuslaitoksen kanssa, näiden sopimusten asiakirjat ovat pudonneet Trumpin hallinnossa. OpenAi on kannattanut samanlaista järjestelyä välttääkseen tilatarkastilain lakilainsäädännön navigointia. Sitä vastoin EU AI -laki edellyttää, että yritykset ovat riskin testata mallejaan ja dokumentoida tuloksia.
Asiantuntijat, kuten MIT: n AI -tutkija Shayne Longpre, jakavat huolenaiheen AI -mallien nopeaan vapauttamiseen liittyvistä mahdollisista riskeistä. LongPre toteaa, että AI -järjestelmien virheiden pinta -ala kasvaa suuremmaksi, kun AI -järjestelmät saavat enemmän pääsyä tietovirtoihin ja ohjelmistotyökaluihin. Hän korostaa tarvetta investoida kolmansien osapuolten, riippumattomien tutkijoiden kanssa ja ehdottaa toimenpiteitä, kuten bug-palkkioita, laajempaa pääsyä puna-joukkueeseen ja testaajien havaintojen oikeudellisia suojauksia AI-turvallisuuden parantamiseksi.
Kun AI -järjestelmät muuttuvat ja niitä käytetään uusilla ja usein odottamattomilla tavoilla, perusteellisen testauksen ja arvioinnin tarve on yhä tärkeämpi. Longpre korostaa, että sisäiset testausryhmät eivät ole riittäviä ja että laajempi käyttäjien, tutkijoiden, toimittajien ja valkoisen hattu-hakkereiden yhteisö on välttämätöntä puutteiden, asiantuntemuksen ja monipuolisten kielten pinta-alan kattamiseksi, joita nämä järjestelmät nyt palvelevat.
Source: Openai kiirehti AI -testausta, herättää turvallisuusongelmia
