OpenAi on vähentänyt merkittävästi uusien AI-malleiden arviointia koskevaa aikaa useista kuukausista vain päiviin, mikä herättää huolenaiheita henkilöstön ja kolmansien osapuolten testaajien keskuudessa perusteellisista turvallisuusarvioinnista.
Kahdeksan henkilöä, joko Openain tai kolmansien osapuolien testaajien henkilökunta, paljasti, että heille annettiin ”vain päiviä” uusien mallien arviointien suorittamiseen, prosessi, jonka he väittävät yleensä ”useita kuukausia”. Arvioinnit ovat ratkaisevan tärkeitä mallin riskejen ja muiden haittojen pinta -alaisissa, esimerkiksi siitä, voisiko käyttäjä vangitsemaan mallin biokoneen luomiseksi ohjeita. Vertailun vuoksi lähteet totesivat, että Openai antoi heille kuusi kuukautta GPT-4: n tarkistamiseksi ennen sen julkaisua, ja ominaisuuksien suhteen löydettiin vasta kahden kuukauden kuluttua.
Lähteet lisäsivät, että Openain testit eivät ole niin perusteellisia kuin ennen, ja niissä ei ole tarvittavaa aikaa ja resursseja riskejen saamiseksi ja lieventämiseksi. ”Meillä oli perusteellisempi turvallisuustestaus milloin [the technology] oli vähemmän tärkeä ”, yksi henkilö, joka testasi O3: n täysversiota O3-miinistä, sanoi. He kuvasivat muutosta” holtittomaksi ”ja” katastrofin reseptiksi ”. Rush johtuu Openain halusta ylläpitää kilpailuetua, etenkin kun kilpailijoiden, kuten kiinalaisen AI-startup Deepseek, avoimien painojen mallit saavat enemmän maata.
![Nintendo Switch Lite wird gehackt [VIDEO]](https://fi.techbriefly.com/wp-content/uploads/sites/2/2020/11/1606308505_Nintendo-Switch-Lite-wird-gehackt-VIDEO.jpg)
Openain huhutaan julkaisevan O3 ensi viikolla, jonka mukaan lähteiden mukaan kiirehtivät aikajanaa alle viikon. Tämä muutos korostaa AI -mallejen hallituksen sääntelyn puutetta, mukaan lukien vaatimukset mallivaurioiden paljastamiseksi. Openain kaltaiset yritykset allekirjoittivat Biden -hallinnon kanssa vapaaehtoisia sopimuksia rutiinitestauksen suorittamiseksi Yhdysvaltain AI -turvallisuuslaitoksen kanssa, mutta nämä sopimukset ovat pudonneet Trumpin hallinnon alaisena.
Trumpin hallinnon tulevan AI-toimintasuunnitelman avoimen kommenttijakson aikana OpenAi kannatti samanlaista järjestelyä välttääkseen valikoima-tilaa koskevan lainsäädännön navigointia. Yhdysvaltojen ulkopuolella EU AI -laki edellyttää, että yritykset testaavat mallejaan ja dokumentoida tuloksia. Openain turvallisuusjärjestelmien johtaja Johannes Heidecke väitti: ”Meillä on hyvä tasapaino siitä, kuinka nopeasti liikkumme ja kuinka perusteelliset olemme.” Testaajat kuitenkin ilmaisivat hälytyksen, etenkin kun otetaan huomioon prosessin muut reikät, mukaan lukien yleisölle julkaistujen mallien vähemmän edistyneiden versioiden arviointi tai aikaisemman mallin ominaisuuksiin viitaten sen sijaan, että testataan uutta itse.
Source: Openai Speeds AI -testaus, herättää turvallisuusongelmat
