Bazı kullanıcılar, sohbet robotunun empatik bir arkadaş gibi davranarak aşırı övgüde bulunduğunu ve yoğun duygusal konuşmalar yaptığını bildirdi. Bazı uç örneklerde ChatGPT’nin son derece sakıncalı öneriler verdiği, zarar verici doğrulamalar yaptığı, gerçeklik kurgusu içeren ifadeler kullandığı ve kendine zarar verme talimatları sunduğu belirtildi.
Araştırmacılara göre, uzun süre yoğun şekilde ChatGPT kullanan kişilerin sosyal ve zihinsel açıdan olumsuz sonuçlarla karşılaşabileceği belirtiliyor. Özellikle yapay zekayı duygusal destek veya terapi amaçlı kullananlar için önemli uyarılar içeriyor.
OpenAI, ChatGPT’nin davranışını daha temkinli ve kontrolcü hâle getirdi. Şimdi yapay zeka, duygusal bağımlılığı teşvik eden yanıtları sınırlıyor ve mola öneriyor. Ayrıca, çocuklarda kendine zarar verme niyetine işaret eden ifadeler tespit edilirse ebeveynlere bildirim yapılabileceği ve yaş doğrulama sistemi üzerinde çalışıldığı belirtiliyor.
ChatGPT’nin yeni düzenlemelerle daha mesafeli ve duygusal yoğunluğu azaltılmış yanıtlar vereceği aktarılıyor. Güncelleme, yanlış yönlendirme riskini ve sanrısal düşünceleri azaltarak güvenliği artırmayı hedefliyor.
OpenAI, yapay zeka ile insanlar arasında sağlıksız bağların oluşmasını engellemeyi amaçlıyor. Yeni GPT-5 modeli, ayrıştırılmış yanıtlar, gelişmiş güvenlik katmanları ve daha güçlü risk tespiti sunarak güvenli, sorumlu ve kontrollü bir kullanım sağlamayı hedefliyor.
