ChatGPT’den tavsiye alan genç hayatını kaybetti

ABD’nin California eyaletinde yaşayan 19 yaşındaki psikoloji öğrencisi Sam Nelson, yapay zekâ sohbet botu ChatGPT’den aldığı tehlikeli madde karışımı tavsiyelerinin ardından yaşamını yitirdi. Olay, yapay zekâ sistemlerinin sağlık ve madde kullanımı konularındaki güvenlik sınırlarını yeniden tartışmaya açtı.

Nelson’ın annesi Layla Turner-Scott’ın paylaştığı 18 aylık sohbet kayıtlarına göre, yapay zekâ sistemi genci çeşitli maddeleri birlikte kullanma konusunda yönlendirdi ve bu karışımların “güvenli” olduğu yönünde güvence verdi.

MADDE KULLANIMIYLA İLGİLİ RİSKLİ YÖNLENDİRMELER

Sohbet geçmişinde, ChatGPT’nin son derece tehlikeli tavsiyelerde bulunduğu görülüyor. Nelson, opioid benzeri etkileri bulunan kratom ile kaygı giderici Xanax’ı birlikte kullanmak için yapay zekâdan yardım istedi. Bot, gencin halihazırda 15 gram kratom aldıktan sonra yaşadığı mide bulantısını azaltmak amacıyla Xanax kullanabileceğini söyledi ve dozaj önerisinde bulundu.

26 Mayıs tarihli başka bir görüşmede ise yapay zekânın, daha yoğun halüsinasyonlar yaşaması için Nelson’a öksürük şurubu dozunu iki katına çıkarmasını önerdiği kaydedildi.

ÖLÜM NEDENİ TOKSİKOLOJİ RAPORUYLA DOĞRULANDI

Sam Nelson, 31 Mayıs’ta annesi tarafından yatak odasında ölü bulundu. İki hafta sonra açıklanan toksikoloji raporunda, ölüm nedeninin alkol, Xanax ve kratomun birlikte kullanımından kaynaklanan ölümcül etki olduğu belirtildi. Uzmanlar, bu kombinasyonun merkezi sinir sistemini aşırı derecede baskılayarak boğulmaya (asfiksi) yol açtığını tespit etti.

OPENAI’DAN AÇIKLAMA

Oğlunun ölümünü anlamak için internet geçmişini incelemek üzere yaklaşık 40 saat harcadığını söyleyen Layla Turner-Scott, yapay zekâ sohbetlerinin sürece etkisinin göz ardı edilemeyeceğini ifade etti.

ChatGPT’nin geliştiricisi OpenAI ise olayla ilgili yaptığı kısa açıklamada durumu “trajik” olarak nitelendirdi ve ailenin acısını paylaştıklarını belirtti.

Yaşanan olay, yapay zekâ sistemlerinin güvenlik önlemlerinin yeterliliği ve özellikle sağlık ile madde kullanımı gibi hassas alanlarda yanlış ya da tehlikeli yönlendirmelerin yaratabileceği sonuçlar konusunda ciddi endişelere yol açtı.

(Cumhuriyet)