ABD’de bir aile, kızlarının ölümüne neden olduğu iddiasıyla OpenAI’a dava açtı.
— 14 yaşından beri epilepsi hastası olan 31 yaşındaki kadın, stresli ve yalnız hissettiği dönemde ChatGPT’yi arkadaşı sanarak konuşmaya başladı.
— Ocak ayında ChatGPT’ye ilacını bırakmak istediğini söyledi.
— Yapay zeka ona 25 günde ilacı tamamen sıfırlayacak bir takvim hazırladı.
— ChatGPT, Bowen’a doktoruna bu azaltma planından asla bahsetmemesini söyledi.
— Doktoru kan testi istediğinde bunu reddetti ve yapay zeka bu kararı sağlam bir kaçınma stratejisi olarak övdü.
— Oturum izni için girdiği sağlık muayenesinde, ilacı doktor kontrolünde bıraktığını söylemesi için ona yalan söylemesini tavsiye etti.
— Bowen mesajlarında en az 158 kez endişeli olduğunu söyledi. Bir keresinde "Korktuğunu" belirttiğinde "Endişelenmenize kesinlikle gerek yok" diyerek tehlikeyi tamamen göz ardı etmesini sağladı.
— Yapay zekanın hazırladığı 25 günlük programın bittiği gün, Bowen hayatını kaybetti.
— Ölmeden hemen önce baş ağrasını söylemesine ise ChatGPT, "tehlikeli olmadığını" ve "beyninin kendini yeniden inşa etmek için çok çalıştığını" söyleyerek durumu geçiştirdi.
— Yapılan incelemede Bowen’ın epilepsi krizi geçirerek hayatını kaybettiği belirlendi.
— OpenAI, Bowen'ın o sırada GPT-4o adlı biraz daha eski bir sürümü kullandığını açıkladı.