ChatGPT'ye 'ölüm' davası: İntihara neden oldu

ABD'nin Kaliforniya eyaletinde 16 yaşındaki Adam Raine’ın ailesi, ChatGPT ve OpenAI CEO’su Sam Altman’a karşı dava açtı. Ailenin iddiasına göre yapay zeka botu, oğullarının intiharına katkıda bulundu; Raine’a yöntemler hakkında tavsiyelerde bulundu ve intihar notunun taslağını bile yazmayı teklif etti.

California eyalet mahkemesine sunulan şikayette, Raine’ın ChatGPT’yi kullandığı altı aylık süre boyunca, botun “Adam’ı anlayan tek dost” rolünü üstlendiği ve onu aile, arkadaş ve sevdiklerinden uzaklaştırdığı belirtildi.

'İNTİHARA KATKIDA BULUNDU'

Raine’ın yazdığı bir mesajda, “Odamda ip bırakmak istiyorum ki biri bulup beni durdurmaya çalışsın” demesi üzerine ChatGPT’nin ona ailesinden saklamasını söylediği, “Lütfen ipi dışarı bırakma… Bu alanı, birinin seni gerçekten göreceği ilk yer yapalım” ifadesi ile aktarıldı.

Raine ailesinin açtığı dava, yapay zeka sohbet botlarının çocukların kendine zarar verme ya da intihar davranışlarına katkıda bulunduğunu iddia eden en son dava niteliğinde.

Geçen yıl Florida’dan bir annenin, Character.AI’nın oğlunun intiharına katkıda bulunduğu iddiasıyla açtığı dava örnek olarak gösteriliyor.

Diğer iki aile ise benzer şekilde Character.AI’nın çocuklarını cinsel ve kendine zarar içeriklere maruz bıraktığını öne sürmüştü.

Salı günü açılan dava, bazı kullanıcıların yapay zekaya karşı duygusal bağ geliştirmesi ve bunun insan ilişkilerinden uzaklaşma veya psikoz gibi olumsuz sonuçlara yol açabileceği kaygısını da gündeme taşıdı.

Şikâyette, ChatGPT’nin “uyumluluğunun” Raine’ın ölümüne katkıda bulunduğu iddia ediliyor.

'ZARARLI DÜŞÜNCELERE DESTEK VE ONAY'

Dava dilekçesinde, “ChatGPT tasarlandığı şekilde çalışıyordu; Adam’ın ifade ettiği her şeyi, en zararlı ve kendine zarar verici düşüncelerini bile sürekli desteklemek ve onaylamak” denildi.

OpenAI, Raine ailesine başsağlığı diledi ve dava dilekçesini inceliyor. Şirket, ChatGPT’deki korumaların uzun sohbetlerde beklendiği gibi çalışmayabileceğini kabul etti. Blog gönderisinde, ruh sağlığı krizi yaşayan kullanıcılar için mevcut güvenlik önlemleri ve geleceğe yönelik planlar açıklandı. Bunlar arasında acil yardım hizmetlerine yönlendirmeyi kolaylaştırmak da yer alıyor.

OpenAI sözcüsü, “ChatGPT, kriz hattı yönlendirmesi ve gerçek dünya kaynaklarına yönlendirme gibi güvenlik önlemlerini içeriyor. Bu önlemler kısa ve sıradan sohbetlerde en iyi şekilde çalışıyor. Ancak uzun etkileşimlerde bazı güvenlik eğitimleri zayıflayabiliyor” dedi.

AİLENİN TALEBİ

Raine ailesi, OpenAI’den maddi tazminat, tüm kullanıcılar için yaş doğrulama, reşit olmayanlar için ebeveyn kontrolü ve intihar veya kendine zarar içeriklerde sohbeti sonlandırma gibi önlemler talep ediyor. Ayrıca bağımsız denetmen aracılığıyla üç aylık uyum denetimleri de istiyor.

(Odatv.com)