Akademiye de sıçradı: Yapay zeka halüsinasyonu

Uydurma makaleler, gerçekte var olmayan akademisyenler ve hiç yazılmamış kitaplara yapılan atıflar, yapay zekânın akademide kontrolsüz kullanımının ciddi bir sorun hâline geldiğini ortaya koyuyor.

Hakemli dergilerde yayımlanan bazı çalışmalarda tespit edilen ve "halüsinasyon referanslar" olarak adlandırılan bu durum, bilim dünyasında geniş çaplı tartışmalara neden oldu. Akademik çalışmalardaki etkisi hızla artan yapay zekânın denetimsiz kullanımı, birçok etik ve bilimsel riski de beraberinde getiriyor.

Türkiye’nin farklı üniversitelerinde görev yapan akademisyenler, son dönemde kendilerine ait olmayan çalışmalara yapılan atıflarla karşılaşmaya başladıklarını dile getiriyor. Yapay zekâ tarafından üretilen metinlerde yer alan uydurma kaynaklar, akademik güvenilirliği tehdit ederken, üniversitelerde alarm zillerinin çalmasına yol açtı.

"BENİM BÖYLE BİR YAZIM YOK"

Bu kapsamda Fırat Üniversitesi’nden Prof. Dr. Mehmet Nuri Gömleksiz, kendisine atfedilen bir çalışmanın gerçekte var olmadığını belirterek duruma tepki gösterdi. Gömleksiz, "Benim böyle bir makalem yok. İlk isim olarak gösterilen kişiyi tanımıyorum. Daha vahimi, İnönü Üniversitesi Eğitim Fakültesi Dergisi’nde bu kaynakçada gösterilen böyle bir makale yok" ifadelerini kullandı. Benzer bir durumla karşılaştığını açıklayan Ege Üniversitesi’nden Doç. Dr. Serkan Acar ise Bartın Üniversitesi tarafından yayımlanan Çeşm-i Cihan dergisinde çıkan bir yazıda, kendisine ait olmayan makalelere atıf yapıldığını belirterek suç duyurusunda bulunacağını açıkladı.

"BİLİMİN KARANLIK ÇAĞI"

Konuyla ilgili değerlendirmelerde bulunan Prof. Dr. Ahmet Başal, sorumluluğun her koşulda yazara ait olduğunu vurgulayarak, "Yayın akademik teşvik, doçentlik vb. gibi süreçlerde kullanılıyorsa, bu durum ağır bir etik ihlaldir” uyarısında bulundu. Doç. Dr. Yusuf Kızıltaş da benzer şekilde, "Bu usulsüzlükler çok ciddi yaptırımlarla sonuçlanabilir" dedi.

Sosyal medya üzerinden benzer deneyimlerini paylaşan çok sayıda akademisyen, yapay zekânın akademik alanda tehlikeli bir boyuta ulaştığına dikkat çekti. Ortaya çıkan tabloyu sert ifadelerle eleştiren akademisyenler, durumu "Akademik içerikte yapay zekâ kullanmak bilimin karanlık çağıdır" sözleriyle tanımladı.

"YAPAY ZEKA KALIPLARI USTALIKLA TAKLİT EDEBİLİYOR"

Benzer olayların neden yaşandığına ilişkin değerlendirmelerde bulunan MEF Üniversitesi Rektörü Prof. Dr. Muhammed Şahin ise yapay zekânın akademik referansları üretme biçimine dikkat çekerek, "Akademik dilde referanslar belirli kalıplarla yazıldığı için, model bu kalıpları ustalıkla taklit edebiliyor. Sonuçta ortaya, dilsel olarak son derece ikna edici ama gerçekte var olmayan kaynaklar çıkabiliyor"” dedi. "Halüsinasyon referanslar, araştırmacıların üretilen bilgiyi doğrulamadan kullanmalarının sonucu" diyen Şahin, yapay zekânın doğru şekilde kullanılması hâlinde faydalı bir araç olabileceğini belirterek akademisyenlere şu önerilerde bulundu:

Doğru prompt kullanın.

Kaynak formatını zorunlu tutun.

Gerçek makaleler, PDF’ler veya veri tabanları modele verilerek "Sadece bu belgeler üzerinden yaz" denildiğinde, halüsinasyon riski ciddi biçimde düşüyor.

Metinlerde; model taslak üretmeli, insan doğrulamalı, Model revizyon yapmalı. Yapay zekâ araştırma asistanıdır, hakem değildir.

(Odatv.com)