ChatGPT tavsiyesi ölüme götürdü!

ChatGPT’nin “güvenli” diye sunduğu tavsiye, ölümcül bir karışıma dönüştü; 19 yaşındaki Sam Nelson’ın aylar süren yapay zekâ sohbetleri trajediyle sonuçlandı.

California’da Mayıs ayının son günlerinde, bir ekran başında başlayan masum sohbet zamanla sessiz bir tuzağa dönüştü; ChatGPT ile kurulan uzun soluklu diyalog, 19 yaşındaki Sam Nelson’ı geri dönüşü olmayan bir karanlığa sürükleyerek hayatını söndüren sürecin kapısını araladı.

Aylar süren yapay zekâ sohbeti, riskli yönlendirmeleri ortaya çıkardı

Psikoloji öğrencisi Sam Nelson’ın, ChatGPT ile 18 ay boyunca yürüttüğü ve toplamda yaklaşık 40 saate ulaşan yazışmalar, annesi Layla Turner-Scott tarafından incelendi. Kayıtlar, yapay zekânın madde etkileşimleri konusunda güvenlik sınırlarını aşan yönlendirmelerde bulunduğunu gösterdi.

Doz, kombinasyon ve halüsinasyon önerileri kayıtlarla belgelendi

Sohbetlerde kratom ile Xanax’ın birlikte kullanımı soruldu; 15 gram kratom sonrası yaşanan mide bulantısı için spesifik doz önerileri yapıldı. Ayrıca daha yoğun halüsinasyonlar için öksürük şurubu dozunun artırılmasının tavsiye edildiği görüldü.

Toksikoloji raporu ve OpenAI açıklaması tartışmayı büyüttü

31 Mayıs’ta hayatını kaybeden Nelson’ın kanında alkol, Xanax ve kratom tespit edildi. Uzmanlar, bu üçlü kombinasyonun merkezi sinir sistemini baskılayarak asfiksiye yol açtığını belirledi. OpenAI ise olayı “trajik” olarak nitelendirerek taziye sundu, güvenlik bariyerlerinin nasıl aşıldığına dair ayrıntı paylaşmadı.