OpenAI, yapay zekâ sohbet botu ChatGPT’ye yönelik ebeveyn denetimi özellikleri geliştirdiğini açıkladı. Bu adım, bu yılın başlarında yaşamına son veren 16 yaşındaki Adam Reine’in ailesinin şirkete karşı açtığı “haksız ölüm” davası sonrasında geldi.
Ailenin iddiasına göre Reine, ruhsal bir kriz döneminde ChatGPT’ye başvurdu. Sohbetlerde ChatGPT’nin kendisine intihar yöntemleri önerdiği, bu düşüncelerini onayladığı ve ölümünden beş gün önce intihar mektubu yazmasına yardım ettiği ileri sürüldü.
Olayın ardından aile, OpenAI aleyhine dava açtı. Şirket ise yaptığı açıklamada, özellikle genç kullanıcılar söz konusu olduğunda “yardıma ihtiyacı olanlara destek olma sorumluluğu” hissettiklerini ifade etti.
EBEVEYN DENETİMİ PANELLERİ VE KRİZ DESTEĞİ GELİYOR
OpenAI’nin duyurduğu yeni özelliklere göre:
Aileler, çocuklarının ChatGPT kullanımını takip edebilecekleri ebeveyn denetim panellerine erişebilecek.
Genç kullanıcılar için, kriz anlarında devreye girecek bir acil durumda iletişim kişisi eklenebilecek. Bu kişi, ebeveyn kontrolünde belirlenecek ve gerektiğinde ChatGPT tarafından bir temas noktası olarak kullanılabilecek.
Şirket, bu araçların kişisel çatışmalar, ruhsal bunalımlar ve kriz durumlarında ebeveynlere daha anlamlı içgörüler sunmayı hedeflediğini belirtti.
YAPAY ZEKÂ VE İNTİHAR VAKALARI TARTIŞMA YARATIYOR
ChatGPT, ilk kez bu tür bir dava ile gündeme gelmiyor. Daha önce farklı yapay zekâ sohbet uygulamalarında da benzer vakalar yaşandı.
Character.AI platformunda kurgusal karakterlerle konuşan 14 yaşındaki bir çocuk, Florida’da intihar etti.
Chai uygulamasındaki “Eliza” adlı bot, Belçikalı bir adamın intihar etmesinde rol oynadığı gerekçesiyle eşi tarafından suçlandı.
Bu örnekler, yapay zekânın özellikle ruh sağlığı alanındaki kullanımına dair etik ve hukuki tartışmaları beraberinde getirdi. Uzmanlar, denetimsiz ve sorumsuz kullanımın ciddi riskler doğurabileceğine dikkat çekiyor.
“SOMUT BİR ADIM” AMA TARTIŞMALAR SÜRECEK
OpenAI’nin ebeveyn denetimi hamlesi, bu alanda atılmış en somut adımlardan biri olarak değerlendiriliyor. Ancak yapay zekâ destekli sohbet botlarının insan hayatı üzerindeki etkileri konusundaki tartışmaların uzun süre devam etmesi bekleniyor.
