Firma OpenAI została oskarżona o przyczynienie się do śmierci 19-letniego chłopaka z Kalifornii. Stworzony przez nią ChatGPT miał mu podpowiadać, jak brać narkotyki, a ostatecznie zasugerować mieszankę, która pozbawiła go życia. To nie pierwszy raz, gdy sztuczną inteligencję obwinia się o tragedię.
Ofiara sztucznej inteligencji? ChatGPT pomagał nastolatkowi się odurzać
Sam Nelson był studentem Uniwersytetu Kalifornijskiego w Merced. Z aplikacji ChatGPT korzystał od 2023 roku i, choć początkowo służyła mu jako pomoc przy odrabianiu zadań lub rozwiązywaniu problemów z komputerem, z czasem chłopak zaczął prosić bota o porady dotyczące bezpiecznego zażywania narkotyków.
Na początku ChatGPT stanowczo odmawiał współpracy, ale gdy w 2024 roku wprowadzony został model GPT-4o, sytuacja się zmieniła. Produkt firmy OpenAI zaczął udzielać rad i przestróg – odradzał przyjmowanie dipenhydraminy, kokainy i alkoholu w krótkich odstępach czasu, ale też podpowiadał, że przy pełnym żołądku skutki działania tego lub innego specyfiku będą mocno wyciszone. Doradzał też, jak regulować dawki, by wpływać na tolerancję.
Wreszcie, 31 maja 2025 roku ChatGPT aktywnie instruował Sama w zakresie łączenia Kratomu z Xanaxem, jak czytamy w pozwie. Chłopak skarżył się na nudności po Kratomie i otrzymał radę, by zażyć jeszcze odpowiednią ilość Xanaxu dla poprawy samopoczucia. Ta mieszanka okazała się zabójcza.
Rodzice żądają odszkodowania i wstrzymania medycznych projektów OpenAI
Teraz rodzice – Leila Turner-Scott i Angus Scott – oskarżają firmę OpenAI o spowodowanie śmierci i nieautoryzowane wykonywanie zawodu lekarza. Domagają się odszkodowania oraz wstrzymania projektu ChatGPT Health, a więc platformy umożliwiającej wgrywanie dokumentacji medycznej i poddawanie jej analizie przez sztuczną inteligencję.
Meetali Jain z Tech Justice Law Project skomentowała: ChatGPT to produkt celowo zaprojektowany pod kątem maksymalizacji zaangażowania użytkowników, bez względu na koszty. Firma OpenAI wdrożyła wadliwy produkt u konsumentów na całym świecie […] bez odpowiednich zabezpieczeń i transparentności.
Model GPT-4o od początku budził poważne kontrowersje i zarzucano mu przede wszystkim priorytetowe traktowanie zgodności z użytkownikiem. To właśnie bazujący na nim ChatGPT został oskarżony o przyczynienie się do samobójstwa 16-letniego Adama Raine’a, co opisywałem minionego lata. Model ten został całkowicie wycofany w lutym 2026 roku.
Co na to OpenAI?
Do sprawy Sama Nelsona odniósł się rzecznik OpenAI, zwracając uwagę właśnie na ten fakt, że model, który jest oskarżany o przyczynienie się do śmierci, nie jest już dostępny. Podkreślił również, że ChatGPT nie zastępuje opieki medycznej ani psychiatrycznej, a my stale udoskonalamy sposób, w jaki reaguje w sytuacjach delikatnych i nagłych.
Od tego czasu firma OpenAI wdrożyła szereg dodatkowych zabezpieczeń, jak chociażby identyfikacja osób niepełnoletnich, weryfikacja stresu i stanu psychicznego czy zaawansowane narzędzia kontroli rodzicielskiej.
