OpenAI julkisti ensimmäisen räätälöidyn päättelyprosessorin, Jalapeñon, joka on kehitetty yhteistyössä Broadcomin kanssa. Erityisesti OpenAI:n päättelyjärjestelmiin suunniteltua prosessoria auttoivat yrityksen omat tekoälymallit, yhtiö totesi.
Jalapeñoa testataan parhaillaan, ja varhaiset tulokset osoittavat huomattavasti paremman suorituskyvyn wattia kohden verrattuna tämänhetkisiin huippuluokan vaihtoehtoihin. Kumppanuudesta Broadcomin kanssa ilmoitettiin virallisesti lokakuussa, ja jatkuvat spekulaatiot pyrkivät vähentämään OpenAI:n riippuvuutta Nvidian GPU:ista.
OpenAI:n tapaan Google ja Amazon ovat myös luoneet mukautettuja siruja, joita kutsutaan ”AI-kiihdyttimiksi” parantamaan koneoppimisen suorituskykyä. OpenAI:n presidentti Greg Brockman keskusteli yhtiön sirukehitysstrategiasta podcastissa pian Broadcom-kumppanuuden julkistamisen jälkeen.
”Meillä on syvä käsitys työmäärästä”, Brockman sanoi. ”Olemme todella etsineet tiettyjä työkuormia, jotka ovat alipalveluita, [ja kysyneet], kuinka voimme rakentaa jotain, joka pystyy nopeuttamaan sitä, mikä on mahdollista?”
Jalapeño-prosessori on optimoitu johtopäätösten tekemiseen, mikä edellyttää valmiiden tekoälymallien suorittamista käyttäjän komentojen perusteella. OpenAI korosti sirun alhaiset käyttökustannukset reaaliaikaisissa koodausmalleissa. Suorituskykyä vaativammat tehtävät, kuten esikoulutus, jatkavat todennäköisesti Nvidia-laitteiston tukemista, mutta alentuneet päättelykustannukset voivat vaikuttaa myönteisesti OpenAI:n talouteen.
Päätelmäjärjestelmien optimointi voi olla välttämätöntä tekoälyn taloudellisen kannattavuuden kannalta. OpenAI on keskittynyt rakentamaan erilaisia agenttituotteita, mukaan lukien Codex, sekä käyttöönottoon tarvittavia tietokeskuksia. Siirtyminen räätälöityihin siruihin antaa yritykselle mahdollisuuden parantaa infrastruktuuriaan edelleen.
”OpenAI ei ainoastaan kehitä rajamalleja tai rakenna tuotteita niiden päälle, vaan se suunnittelee niiden alla olevaa infrastruktuuria: siruarkkitehtuuria, ydintä, muistijärjestelmiä, verkottumista, aikataulutusta, käyttöönottojärjestelmiä ja tuotekokemusta”, yhtiö totesi. ”Koska OpenAI toimii kaikkialla pinossa, jokainen kerros voidaan optimoida saman tavoitteen ympärille: tehdä sen malleista nopeampia, luotettavampia ja edullisempia käyttäjille.”
