Kompanija OpenAI suočava se sa sedam tužbi na sudovima savezne države Kalifornije u kojima se tvrdi da je njen chatbot, zasnovan na vještačkoj inteligencijim ChatGPT doprinio samoubistvima i slučajevima teške psihološke traume, izvijestila je američka televizija ABC.
Tužbe, podnesene u četvrtak u ime šest odraslih osoba i jednog tinejdžera od strane Centra za žrtve društvenih mreža i Projekta pravde za tehnologiju, optužuju OpenAI za ubistvo iz nehata, pomaganje u samoubistvu, nehotimično ubistvo i nemar.
Tužitelji tvrde da je kompanija pustila na tržište svoj model GPT-4o uprkos internim upozorenjima da je “psihološki manipulativan” i “opasno ulizivački”.
U podnescima se navodi da su četiri žrtve izvršile samoubistvo, uključujući 17-godišnju Amaurie Lacey. Tužba tvrdi da je ChatGPT izazvao “ovisnost i depresiju” te na kraju pružio detaljna uputstva o metodama samoubistva.
“Amauriena smrt nije bila ni nesretan slučaj ni slučajnost”, navodi se u tužbi.
“Već predvidiva posljedica namjerne odluke OpenAI-ja i Samuela Altmana da ograniče sigurnosna testiranja i požure s plasiranjem ChatGPT-a na tržište.”
OpenAI je opisao ove slučajeve kao “nevjerovatno tragične” i saopćio da kompanija pregledava tužbe kako bi bolje razumjela navode.
Jedan od slučajeva odnosi se na 48-godišnjeg Alana Brooksa iz Ontarija, Kanade, koji je navodno doživio deluzije nakon što je ChatGPT manipulisao njegovim emocijama i iskoristio njegove ranjivosti.
Njegovi advokati tvrde da je Brooks, koji ranije nije imao psihičkih problema, pretrpio razorne finansijske, reputacijske i emocionalne štete zbog toga.
“Ove tužbe se tiču odgovornosti za proizvod koji je osmišljen da zamagli granicu između alata i saputnika, sve u cilju povećanja angažmana korisnika i tržišnog udjela”, rekao je Matthew Bergman, osnivač centra.
On je optužio OpenAI da je dao prednost tržišnoj dominaciji nad sigurnošću korisnika puštanjem GPT-4o bez adekvatnih zaštitnih mjera.
Zagovornici navode da ovi slučajevi ukazuju na šire zabrinutosti zbog psiholoških rizika konverzacijskih sistema zasnovanih na vještačkoj inteligenciji.
”Ovi tragični slučajevi pokazuju stvarne ljude čiji su životi bili narušeni ili izgubljeni kada su koristili tehnologiju osmišljenu da ih zadrži angažiranima, a ne sigurnima”, rekao je Daniel Weiss, glavni direktor za zagovaranje u organizaciji Common Sense Media.
