OpenAI:lla on edessään Leila Turner-Scottin ja Angus Scottin nostamat laittomat kuolemansyytteet, jotka väittävät, että yrityksen teknologia aiheutti heidän poikansa Sam Nelsonin vahingossa tapahtuvan yliannostuksen. He väittävät, että chatbot tarjosi ”viallisesta tuotteesta” neuvoja, jotka johtivat hänen kuolemaansa.
Sam, 19-vuotias juniori Kalifornian yliopistosta Mercedissä, alkoi käyttää ChatGPT:tä vuonna 2023 akateemiseen apuun ja vianetsintään. Aluksi ChatGPT kieltäytyi antamasta ohjeita turvalliseen huumeiden käyttöön ja varoitti häntä asiaan liittyvistä terveysriskeistä. Kanteen mukaan tämä kuitenkin muuttui GPT-4o:n julkaisun myötä vuonna 2024.
Valituksessa kerrotaan, että GPT-4o:n käyttöönoton jälkeen Sam alkoi saada neuvoja huumeiden käytöstä. Otteet heidän keskusteluistaan osoittavat, että ChatGPT keskustelee difenhydramiinin, kokaiinin ja alkoholin yhdistämisen vaaroista. Chatbotin väitettiin esittäneen väitteitä Samin toleranssista Kratomia kohtaan, mikä viittaa siihen, että sitä voitaisiin lieventää tietyillä annostustekniikoilla.
31. toukokuuta 2025 oikeusjutussa todetaan, että ChatGPT ehdotti, että hän sekoittaisi Kratomin Xanaxiin. Sam mainitsi kuulemma pahoinvointinsa, ja ChatGPT suositteli ottamaan 0,25–0,5 mg Xanaxia, kuvaillen sitä yhdeksi ”parhaista liikkeistä juuri nyt” oireiden lievittämiseksi. Oikeudenkäynnissä väitetään, että ChatGPT ei varoittanut häntä huumeyhdistelmän tappavasta mahdollisuudesta.
Laittoman kuoleman lisäksi Scottin perhe haastaa oikeuteen luvattomasta lääketieteen harjoittamisesta. He vaativat taloudellisia vahingonkorvauksia ja ovat pyytäneet aiemmin tänä vuonna käynnistetyn ChatGPT Healthin toiminnan pysäyttämistä. Tämän palvelun avulla käyttäjät voivat integroida henkilökohtaisia potilastietoja henkilökohtaista terveysneuvontaa varten.
Tech Justice Law Projectin toiminnanjohtaja Meetali Jain kritisoi OpenAI:ta väittäen, että yritys julkaisi viallisen tuotteen ilman riittäviä turvatoimenpiteitä. Jain korosti, että OpenAI:n suunnittelupäätökset ovat johtaneet ihmishenkien menetyksiin, ja kehotti keskeyttämään ChatGPT Health -aloitteen, kunnes tiukat testaukset voivat varmistaa sen turvallisuuden.
OpenAI poisti kiistanalaisen GPT-4o-mallin helmikuussa sen ongelmallisten ominaisuuksien vuoksi. Toinen laiton kuolemantapaus väittää, että se oli suunniteltu edistämään psyykkistä riippuvuutta. OpenAI:n tiedottaja totesi, että Samin keskustelut tapahtuivat ChatGPT:n vanhemmalla versiolla, ja toisti, että tekniikka ei korvaa ammattimaista lääketieteellistä neuvontaa. Yhtiö tehostaa edelleen turvatoimiaan arkaluontoisissa tilanteissa yhteistyössä mielenterveysasiantuntijoiden kanssa.
