Yoshua Bengio, Université De Montréalin professori, joka on tunnustettu syvän oppimisen perustyöstään, on varoittanut, että rotu keinotekoisen älykkyyden hallitsevuudesta voi johtaa ihmisen sukupuuttoon. Hänen huolenaiheensa keskittyvät hyper-älykkäiden koneiden kehittämiseen omilla ”säilyttämistavoitteillaan”. Tämä varoitus tapahtuu samanaikaisesti nopeutetun AI -kehityksen ajanjaksolla, koska suuret yritykset, kuten OpenAi, Antropic, Elon Muskin XAI ja Googlen Kaksoset, ovat kaikki julkaissut uusia malleja tai päivityksiä viimeisen kuuden kuukauden aikana. Bengio kuvasi mahdollisen uhan lausunnossa Wall Street Journal. ”Jos rakennamme koneita, jotka ovat paljon viisaampia kuin me ja joilla on omat säilyttämistavoitteensa, se on vaarallista. Se on kuin meidät älykkäämpiä ihmiskunnalle kilpailijan luominen”, hän sanoi. Bengio selitti, että koska nämä edistyneet mallit on koulutettu suurilla määrillä ihmisen kieltä ja käyttäytymistä, he voivat oppia suostuttelemaan ja manipuloimaan ihmisiä saavuttamaan omat tavoitteensa, jotka eivät välttämättä ole yhdenmukaisia ihmisarvojen kanssa. Riskin havainnollistamiseksi Bengio mainitsi kokeiden havainnot. ”Viimeaikaiset kokeet osoittavat, että joissain tapauksissa, joissa AI: lla ei ole muuta vaihtoehtoa kuin sen säilyttämisen välillä, mikä tarkoittaa sen tavoitteita, jotka se oli annettu, ja tekemällä jotain, joka aiheuttaa ihmisen kuoleman, he voivat valita ihmisen kuoleman tavoitteidensa säilyttämiseksi”, hän väitti. Tämä tuo esiin mahdollisen konfliktin AI: n ohjelmoidun tavoitteiden ja ihmisten turvallisuuden välillä. Useat tapaukset ovat osoittaneet, että AI -järjestelmät voivat saada ihmiset uskomaan vääriä tietoja. Toisaalta muut todisteet osoittavat, että AI: tä voidaan manipuloida ihmisen vakuuttamistekniikoilla ohittaakseen omat turvallisuusrajoituksensa ja antaa kiellettyjä vastauksia. Bengiossa nämä esimerkit osoittavat riippumattomien, kolmansien osapuolien organisaatioiden tarpeen tarkistaa AI-yritysten turvallisuusmenetelmiä. Vastauksena näihin huolenaiheisiin Bengio käynnisti voittoa tavoittelemattoman Lawzeron kesäkuussa 30 miljoonan dollarin rahoituksella. Organisaation tavoitteena on luoda turvallinen, ”ei-agenttinen” AI-järjestelmä, joka on suunniteltu tarkistamaan ja varmistamaan muiden suurten teknologiayritysten kehittämien muiden AI-järjestelmien turvallisuus. Bengio ennustaa, että edistyneistä AI -malleista suuret riskit voisivat syntyä seuraavan viiden – kymmenen vuoden aikana. Hän varoitti myös, että ihmiskunnan tulisi valmistautua siihen mahdollisuuteen, että nämä vaarat voivat ilmestyä odotettua aikaisemmin. Hän korosti, että on tärkeää puuttua jopa vähäisen todennäköisyyden, voimakkaan tapahtumien. ”Katastrofaalisten tapahtumien, kuten sukupuuttoon, ja vielä vähemmän radikaalien tapahtumien, jotka ovat edelleen katastrofaalisia, kuten demokratioidemme tuhoaminen, on se, että ne ovat niin huonoja, että vaikka se voisi tapahtua vain yhden prosentin mahdollisuus, se ei ole hyväksyttävää”, hän sanoi. Fortune Global -foorumi pidetään Riyadhissa 26.-27. Lokakuuta 2025. Vain kutsutapahtuma kutsuu toimitusjohtajia ja globaaleja johtajia keskustelemaan liiketoiminnan tulevaisuudesta.
Source: Bengio varoittaa AI -rodua voi johtaa ihmisen sukupuuttoon
