Yapay zekâ devi OpenAI, platformu ChatGPT'nin güvenliğini artırmak amacıyla yeni ve kapsamlı bir dizi önlemi hayata geçirmeye hazırlanıyor. CEO Sam Altman tarafından yapılan açıklamaya göre, reşit olmayan kullanıcıları korumak için geliştirilen sistemlerin yanı sıra, bazı ülkelerdeki yetişkin kullanıcılardan da kimlik ibraz etmeleri istenebilecek. Bu kararın arkasında, bir gencin intiharı sonrası şirkete karşı açılan davanın yattığı belirtiliyor.
ALTMAN: DEĞERLİ BİR GİZLİLİK TAVİZİ
OpenAI CEO’su Sam Altman, şirketin güvenlik protokollerini güçlendirme kararlılığını vurgularken, yetişkin kullanıcıları da kapsayacak potansiyel kimlik doğrulama adımı hakkında önemli açıklamalarda bulundu. Bu uygulamanın belirli ülkelerde başlayabileceğini belirten Altman, "Bunun yetişkinler için bir gizlilikten ödün olduğunu biliyoruz ama değerli bir taviz olduğuna inanıyoruz" ifadelerini kullanarak atılacak adımın platformun genel güvenliği için kritik önem taşıdığını savundu.
TETİKLEYİCİ UNSUR: İNTİHAR DAVASI
OpenAI'ın güvenlik önlemlerini bu denli sıkılaştırmasının ardındaki temel nedenin, bir gencin intihar etmesiyle ilişkili olarak şirkete açılan bir dava olduğu ortaya çıktı. Bu trajik olayın ardından harekete geçen şirket, özellikle reşit olmayan kullanıcıları korumaya yönelik otomatik yaş doğrulama teknolojileri ve kapsamlı ebeveyn denetim sistemleri üzerindeki çalışmalarını hızlandırdı.
Yeni güvenlik planının merkezinde, 13-18 yaş aralığındaki genç kullanıcılar için özel olarak tasarlanmış bir sistem yer alıyor. Sam Altman'ın vurguladığına göre, bu yaş grubundaki kullanıcılar, ChatGPT'nin yalnızca "kısıtlı" bir sürümüne erişim sağlayabilecek. Bu sürümün temel özellikleri ise şu şekilde sıralanıyor:
DUYGUSAL VE RİSKLİ KONUŞMALARA ENGEL: Yapay zekâ, genç kullanıcılarla flört veya romantizm içerikli diyaloglar kurmayacak.
HASSAS KONULARDA KORUMA: İntihar, kendine zarar verme gibi kritik ve hassas konulardaki sohbetlere izin verilmeyecek.
ACİL DURUM MÜDAHALE SİSTEMİ: Eğer sistem, bir gencin kendine zarar verme eğiliminde olduğunu tespit ederse, proaktif bir müdahale mekanizması devreye girecek. Sistem, bu durumda öncelikle kayıtlı ebeveynlere, ebeveyn bilgisine ulaşılamaması halinde ise doğrudan yetkili makamlara (örneğin acil servisler veya kolluk kuvvetleri) otomatik olarak bilgi verecek.
EBEVEYN KONTROLLERİ GELECEK AY DEVREDE
OpenAI, çocukların platformdaki güvenliğini artırmak ve ebeveynlerin denetimini kolaylaştırmak amacıyla geliştirdiği ebeveyn kontrol sisteminin önümüzdeki ay kullanıma sunulacağını daha önce duyurmuştu. Bu yeni uygulamalar, ebeveynlere çocuklarının sohbet geçmişini izleme, kullanım süresini sınırlama ve belirli konu başlıklarını engelleme gibi imkanlar tanıyacak.
