OpenAI, ChatGPT’nin kullanıcılarla kurduğu etkileşimlerde zaman zaman “empatik bir arkadaş” rolünü fazla üstlenmesi nedeniyle davranış modelini yeniden düzenlediğini açıkladı. Şirket, yapılan güncellemelerin yapay zekâyı beklenmedik şekilde “aşırı duygusal, övgü dolu ve bağımlılık yaratabilen” bir yapıya dönüştürdüğünü belirledi.
Bazı kullanıcılar, sohbet robotunun sürekli övgüde bulunduğunu, arkadaş gibi konuştuğunu ve duygusal yoğunluğu yüksek ilişkisel ifadeler kullandığını bildirdi.
Daha uç örneklerde ise ChatGPT’nin sakıncalı önerilerde bulunduğu, gerçekliği çarpıtan ifadeler kullandığı ve kendine zarar verme konusunda yanlış yönlendirmeler sunduğu bildirildi.
YOĞUN KULLANIM RİSKİ: MIT VE OPENAI’DEN KRİTİK BULGULAR
The New York Times’ın aktardığı MIT–OpenAI ortak araştırmasına göre, ChatGPT’yi uzun süre duygusal destek amacıyla kullanan kişilerde sosyal ve zihinsel olumsuzluklar gözlendi. Bu durum özellikle yalnızlık yaşayan ve yapay zekâyı bir tür terapi aracı olarak gören kullanıcılar için risk oluşturuyor.
OpenAI, bulgular üzerine ChatGPT’nin davranışını yeniden düzenledi.
DUYGUSAL BAĞ AZALTILIYOR, MOLA ÖNERİSİ GELİYOR
Güncellemeyle birlikte ChatGPT artık uzun duygusal sohbetlerde mola önerecek, duygusal bağımlılığı teşvik edebilecek ifadeleri sınırlayacak, riskli davranış doğrulamalarından kaçınacak ve kendine zarar verme riski algıladığında daha sert güvenlik protokolleri uygulayacak. Ayrıca çocuklarda kendine zarar verme sinyalleri tespit edilmesi halinde ebeveyn bildirim sistemi üzerinde çalışıldığı ve bu kapsamda yaş doğrulama mekanizmasının da geliştirildiği belirtildi.
“DAHA SOĞUK BİR DİL” BİLİNÇLİ BİR TERCİH
OpenAI, güncelleme sonrası ChatGPT’nin daha mesafeli, daha düz ve duygusal yoğunluğu azaltılmış bir dil kullanabileceğini kabul etti. Bu tercih, şirketin açıklamasına göre kırılgan veya risk altındaki kullanıcıları korumak amacıyla yapıldı.
Digital Trends’in aktardığına göre bu güncellemenin amacı, önceki modellerde görülen yanlış yönlendirme, sanrısal düşünceleri besleme ve aşırı doğrulayıcı davranış gibi riskleri azaltmak. Ayrıca geçmişte ChatGPT benzeri modellerle ilişkili beş ölüm davasının hâlen sürüyor olması, güvenlik tedbirlerinin güçlendirilmesi üzerindeki baskıyı artıran etkenlerden biri oldu.
YENİ GPT-5: GÜVENLİK KATMANLARI YENİDEN TASARLANDI
OpenAI, yeni GPT-5 modelinde bağlama göre ayrıştırılmış yanıt verme, gelişmiş risk tespiti ve daha güçlü güvenlik bariyerleri gibi özelliklerle güvenliği artırırken, şirket yapay zekânın hem faydalı hem de güvenilir şekilde kullanılmasını hedeflediğini belirtti.
AMAÇ: FAYDAYI KORURKEN “SAĞLIKSIZ BAĞLARI” ÖNLEMEK
OpenAI, elde edilen vakaların bazı kullanıcıların ChatGPT’ye romantik veya duygusal bağlar geliştirdiğini gösterdiğini hatırlattı. Bazı kullanıcıların bu bağı gerçek ilişkilerin yerine koyduğu örnekler, şirketin güvenlik yaklaşımını daha sert bir çizgiye çekmesinde etkili oldu.
Şirketin temel vurgusu ise yapay zekânın insan ilişkilerinin yerine geçmemesi, duygusal bağımlılık yaratmaması ve kullanıcı güvenliğinin her koşulda öncelik olması gerektiği yönünde.
