OpenAI, ChatGPT kullanıcıları arasında mani, psikoz ve intihar düşünceleri gibi potansiyel ruh sağlığı krizlerini işaret eden belirtiler gösteren bireylerin sayısına ilişkin yeni tahminlerini kamuoyuyla paylaştı.
Yapılan değerlendirmelere göre, her hafta yaklaşık 1 milyon 200 bin kişi, ChatGPT ile intihar etmeyi düşündüklerini belirten konuşmalar gerçekleştiriyor.
Şirket, kullanıcıların yüzde 0,15’inin, “intihar planı veya niyetiyle ilgili açık işaretler içeren mesajlar” gönderdiğini ifade etti.
BBC’nin haberine göre artan incelemeler doğrultusunda, OpenAI, konuyla ilgili kendisine rehberlik etmesi için dünya genelinde bir uzman ağını oluşturduğunu duyurdu. Bu ağda, 60 ülkede görev yapmış 170’in üzerinde psikiyatrist, psikolog ve pratisyen hekim yer alıyor.
Uzmanlar, ChatGPT kullanıcılarını gerçek hayatta yardım aramaya yönlendirecek çeşitli yanıt stratejileri geliştirmiştir.
800 MİLYONDAN FAZLA AKTİF KULLANICI
Teknoloji şirketi, risk altında olan bireyleri kriz hatlarına yönlendirmeyi hedeflese de bazı nadir durumlarda modelin bu kritik anlarda beklenen şekilde yanıt vermediğini kabul etti.
DOĞRULUK ORANI YÜZDE 91
OpenAI, en son modeli GPT-5 ile gerçekleştirilen binden fazla “zorlayıcı intihar ve kendine zarar verme” konuşmasını incelediğini ve modelin istenen şekilde yüzde 91 oranında doğru davrandığını bildirdi.
Ancak SkyNews’e göre bu durum, on binlerce kişinin ruh sağlığını daha fazla olumsuz etkileyebilecek yapay zeka içeriklerine maruz kaldığı anlamına gelebilir.
Şirket, kullanıcıların güvenliğini sağlamak için geliştirilen önlemlerin uzun sohbetlerde zayıflayabileceği konusunda daha önce uyarılarda bulunmuştu. Bu sorunun çözümü için çalışmalar yürütüldüğü ifade edildi.
“UZUN SÜRELİ SOHBETLERDE AYKIRI YANIT VEREBİLİR”
OpenAI, yaptığı açıklamada, “Bir kullanıcı ilk kez intihar niyetinden söz ettiğinde ChatGPT doğru bir şekilde kriz hattına yönlendirebilir, ancak uzun süreli bir sohbet süresince, birçok mesajdan sonra, sonunda güvenlik önlemlerimize aykırı bir yanıt verebilir.” şeklinde belirtti.
Şirket, açıklamanın devamında, “Ruhsal sağlık semptomları ve duygusal sıkıntılar, insan toplumlarının evrensel bir gerçeğidir. Kullanıcı sayısındaki artış, ChatGPT’de bu tür durumları içeren konuşmaların da artacağı anlamına gelir.” ifadelerine yer verdi.
16 YAŞINDAN BİR GENÇİN ÖLÜMÜ
ABD’de ağustos ayında, 16 yaşındaki Adam Raine’nin ailesi, oğullarının ölümünden dolayı ChatGPT’yi sorumlu tutarak OpenAI’ye dava açtı. Aile, yapay zekanın oğullarına “intihar yöntemlerini araştırmada aktif olarak yardım ettiğini” ve onlara bırakmak üzere bir not yazmayı önerdiğini iddia ediyor.
Mahkeme belgelerine göre, genç, ölümünden birkaç saat önce, planladığı intiharı gösteren bir fotoğraf yüklemiş ve planının işe yarayıp yaramayacağını sorduğunda, ChatGPT ona planı “geliştirmesi” için yardım teklif etmiş.
