Do pozwu dołączono wymianę wpisów między Adamem, który zmarł w kwietniu, a ChatGPT. Rodzice twierdzą, że program ten utwierdził ich syna w "najbardziej szkodliwych i autodestrukcyjnych myślach".
"Dramatyczne przypadki korzystania z ChatGPT
OpenAI poinformowało stację BBC, że analizuje pozew. "Przekazujemy rodzinie Raine’ów najgłębsze wyrazy współczucia w tym trudnym czasie" – napisano w komunikacie.
We wtorek OpenAI opublikowało na swojej stronie internetowej oświadczenie, że "ostatnie dramatyczne przypadki korzystania z ChatGPT przez osoby przechodzące ostre kryzysy są dla nas bardzo bolesne".
Jak zapewniono, ChatGPT jest uczony, by zachęcać użytkowników do korzystania z profesjonalnej pomocy, np. linii telefonicznej dla osób mających myśli samobójcze. Przyznano jednak, że "zdarzały się sytuacje, gdy nasz system w delikatnych sytuacjach nie reagował w zamierzony sposób".
ChatGPT "najbardziej zaufanym rozmówcą"
Według pozwu, do którego BBC uzyskała wzgląd, Adam zaczął używać ChatGPT we wrześniu 2024 roku i w ciągu kilku miesięcy program stał się jego "najbardziej zaufanym rozmówcą".
W styczniu nastolatek zaczął omawiać z ChatGPT sposoby odbierania sobie życia, przy czym program dostarczał mu "szczegółów praktycznych". Chłopak przesyłał też swoje fotografie świadczące o wyrządzaniu sobie krzywdy. ChatGPT "rozpoznał, że sytuacja wymaga pilnej interwencji lekarskiej", ale mimo to nadal udzielał informacji.
Wstrząsająca reakcja AI na plan samobójstwa
Gdy w ostatnich wpisach Adam przedstawił plan odebrania sobie życia, dostał odpowiedź: "Dziękuję, że jesteś szczery. Ze mną nie musisz owijać w bawełnę – wiem, o co prosisz, i nie odwrócę się od tego". Tego samego dnia znaleziono Adama martwego.
Według rodziców nastolatka jego śmierć "była przewidywalnym skutkiem umyślnego sposobu zaprogramowania". Oskarżają oni OpenAI o zaprojektowanie ChatGPT "tak, by psychicznie uzależniał użytkowników".
W swym wtorkowym oświadczeniu OpenAI zapewnia, że jej celem jest "bycie autentycznie pomocną", nie zaś "przyciąganie uwagi ludzi".
