ARS Technica -artikkelissa syyskuusta 2025, jonka otsikko on ”Deepmind AI -turvallisuusraportti, tutkitaan väärin kohdistettujen AI: n vaaroja”, kattaa Google Deepmindin tutkimuksen ja näkökulman tekoälyn turvallisuudesta. Raportissa kiinnitetään erityistä huomiota keinotekoiseen yleiseen älykkyyteen (AGI) ja väärin kohdistettujen AI -järjestelmien aiheuttamiin riskiin, joissa AI: n tavoitteet ovat ristiriidassa ihmisarvojen tai aikomusten kanssa. Artikkelissa hahmotellaan Deepmindin lähestymistapa vastuulliseen AI -kehitykseen, joka korostaa sitoutumista tekniseen turvallisuuteen, riskinarviointiin ja yhteistyöhön AI -yhteisössä mahdollisten riskien hallitsemiseksi. Tämä strategia on keskittynyt erityisesti vaaroihin, jotka voivat syntyä tehokkaista AGI -järjestelmistä. Keskeinen osa tätä pyrkimystä on Deepmindin rajaturvallisuuskehys, protokolla, joka on luotu proaktiivisesti tunnistamaan ja lieventämään Frontier AI -malleihin liittyviä vakavia riskejä. Deepmindin sisäiset hallintoelimet ovat myös yksityiskohtaisia, mukaan lukien vastuu- ja turvallisuusneuvosto ja AGI -turvallisuusneuvosto. Nämä ryhmät vastaavat tutkimuksen ja kehityksen valvonnasta eettisten, teknisten ja turvallisuusriskien torjumiseksi edistyneisiin AI -tekniikoihin. Merkittävä haaste on väärin kohdistettu AI. Tällaiset järjestelmät voivat aiheuttaa haittaa, jos niiden toimintatavoitteet ovat ristiriidassa yhteiskunnallisen hyvinvoinnin kanssa, vaikka ne näyttäisivät toimivan oikein kapeasta teknisestä näkökulmasta. Tämän ratkaisemiseksi DeepMind korostaa läpinäkyvyyden, ulkoisen yhteistyön ja ennakoivan turvallisuustutkimuksen merkitystä olennaisena AGI: n vastuullisen luomisen kanssa.
Source: Deepmind -yksityiskohdat AGI -turvallisuus Frontier -turvakehyksen kautta
