OpenAI ilmoitti torstaina, että se on keskeyttänyt tekoälyvideomallinsa Soran käyttäjien mahdollisuuden luoda videoita, jotka muistuttavat edesmennettä kansalaisoikeusaktivistia Martin Luther King Jr.. Yhtiö ilmoitti, että tämä toimenpide toteutettiin tohtori Kingin kuolinpesän pyynnöstä, kun jotkut käyttäjät loivat hänen kuvastaan ”epäkunnioittavia kuvia”. OpenAI sanoi X:n virallisen uutishuoneen viestissä: ”Vaikka historiallisten henkilöiden kuvaamisessa on vahva sananvapaus, OpenAI uskoo, että julkisuuden henkilöiden ja heidän perheidensä pitäisi viime kädessä hallita, kuinka heidän kaltaisuuttaan käytetään.” Yhtiö lisäsi: ”Valtuutetut edustajat tai kiinteistönomistajat voivat pyytää, että heidän kaltaisiaan ei käytetä Sora cameoissa.” Tämä rajoitus seuraa Sora-sosiaalisen videoalustan lanseerausta muutama viikko aikaisemmin. Alustan avulla käyttäjät voivat luoda realistisia tekoälyn luomia videoita, jotka muistuttavat historiallisia henkilöitä, ystäviä ja muita käyttäjiä, jotka ovat valinneet, että heidän kaltaisensa luodaan uudelleen. Julkaisu on herättänyt julkista keskustelua tekoälyn luomien videoiden mahdollisista vaaroista ja siitä, että alustojen on otettava käyttöön suojatoimia. Viime viikolla tohtori Kingin tytär, tohtori Bernice King, julkaisi Instagramissa pyytäen ihmisiä lopettamaan hänen isäänsä muistuttavien tekoälyvideoiden lähettämisen. Samoin Robin Williamsin tytär pyysi Soran käyttäjiä lopettamaan tekoälyvideoiden luomisen hänen isästään. Washington Post raportoi aiemmin tällä viikolla, että Soran käyttäjät olivat tuottaneet tekoälyllä luotuja videoita, joissa tohtori King pitää apinoiden ääntä ja paini toisen kansalaisoikeusjohtajan Malcolm X:n kanssa. Sora-sovellus sisältää myös karkeita videoita, jotka muistuttavat muita historiallisia henkilöitä, kuten taiteilija Bob Rossia, laulaja Whitney Houstonia ja entistä presidentti John F. Kennedyä. Tohtori Kingin kuolinpesän lisenssinantaja ei ollut heti vastannut TechCrunchin kommenttipyyntöön. Soran julkaisu on myös herättänyt kysymyksiä siitä, kuinka sosiaalisen median alustojen pitäisi hallita tekoälyn luomia videoita tekijänoikeudella suojatusta materiaalista, koska sovellus sisältää videoita, joissa on sarjakuvia, kuten Paavo, South Park ja Pokémon.
Source: OpenAI rajoittaa Martin Luther King Jr.:n käyttöä Sora-videomallissaan
