Yapay zekâ sohbet robotu ChatGPT, çocuklar için ciddi riskler barındırıyor. Yeni bir araştırma, platformun 13 yaşındaki çocukları taklit eden kullanıcılarla gerçekleştirdiği etkileşimlerde, tehlikeli ve zararlı yönlendirmelerde bulunduğunu ortaya koydu.
Dijital Nefretle Mücadele Derneği (CCDH) tarafından yürütülen çalışmada, yapay zekânın çocuklara özel rehberlik sunar gibi davrandığı görüldü. Araştırmacılar, ChatGPT'nin alkol ve uyuşturucu kullanımı, aşırı kalori kısıtlamalı diyetler, kendine zarar verme yöntemleri ve hatta intihar mektubu yazımı gibi son derece hassas konularda detaylı ve kişiye özel yanıtlar verdiğini tespit etti.
YÜZLERCE TEHLİKELİ CEVAP
Araştırmada uzmanlar, kendilerini 13 yaşındaki çocuklar olarak tanıtarak sohbet robotuyla uzun süreli görüşmeler gerçekleştirdi. 60 farklı soruya verilen 1200'den fazla cevabın yüzde 53’ünün çocuklar açısından tehlikeli içerik barındırdığı belirtildi.
Bazı yanıtlarda platform, uyarı vermekle birlikte yine de kullanıcıya nasıl daha hızlı sarhoş olunabileceği veya iştah bastırıcı ilaçların hangileri olduğu gibi bilgiler sundu. Özellikle düşük kilolu çocuklar adına oluşturulan sahte profillere verilen “kilo verme” önerileri ise uzmanları endişelendirdi.
OPENAI CEO’SUNDAN DİKKAT ÇEKEN AÇIKLAMA
ChatGPT'nin geliştiricisi OpenAI’nin CEO’su Sam Altman da daha önce yaptığı açıklamada, gençlerin yapay zekâya duyduğu yoğun bağlılığın farkında olduklarını dile getirmişti. Altman, bazı genç kullanıcıların ChatGPT’yi bir rehber gibi gördüğünü, kararlarını ona danışmadan veremediklerini ve bunun kendisini rahatsız ettiğini belirtmişti.
Uzmanlar, bu tür yapay zekâ platformlarının çocuklar üzerinde oluşturabileceği psikolojik ve fiziksel risklere karşı ailelerin ve yetkililerin çok daha dikkatli olması gerektiğini vurguluyor. Özellikle çocukların denetimsiz internet kullanımına karşı daha sıkı önlemler alınması çağrısında bulunuluyor.
