Yapay zeka teknolojisinin öncü şirketlerinden OpenAI, popüler sohbet robotu ChatGPT'yi kullanan 18 yaş altı genç kullanıcılar için kapsamlı yeni güvenlik düzenlemelerini duyurdu.
Şirketin CEO'su Sam Altman, yaptığı açıklamada, reşit olmayan bireylerin yapay zeka ile kurduğu etkileşimlerde temel prensibin gizlilik ve özgürlükten önce güvenlik olacağını net bir şekilde ifade etti.
Bu yeni yaklaşım, özellikle ergenlik çağındaki kullanıcıların yapay zeka araçlarından kaynaklanabilecek potansiyel olumsuz etkilenme riskini en aza indirmeyi amaçlıyor.
FLÖRT İÇERİKLERİ VE KRİZ DURUMLARINA KATI SINIRLAMALAR
Yürürlüğe giren yeni politikalar çerçevesinde, ChatGPT'nin reşit olmayan kullanıcılarla flört içerikli konuşmalar yapması kesinlikle engellenecek.
Ayrıca, intihar ve kendine zarar verme gibi son derece kritik ve hassas konular için çok daha katı güvenlik protokolleri uygulamaya konuluyor.
OpenAI, bu tür acil durum senaryolarında, ilk etapta kullanıcının ebeveynlerine veya yasal vasilerine bildirim göndermeyi planlıyor.
Ancak, durumun aciliyeti veya ebeveynlere ulaşılamaması halinde, yerel kolluk kuvvetleri veya ilgili yetkili mercilerle doğrudan iletişime geçme yetkisi de sistem tarafından devreye alınacak.
Bu önlemler, özellikle yapay zeka etkileşiminin neden olduğu zarar iddialarının gölgesinde atılan güçlü adımlar olarak dikkat çekiyor.
Tiktok algoritması 'İsrailleştirme' tehlikesi altında! Tiktok'un yeni patronları kim?
EBEVEYN KONTROLÜ VE YAŞ TAHMİN SİSTEMİ DEVREDE
Yeni güvenlik döneminde, ebeveyn kontrolü mekanizmaları önemli bir yer tutuyor.
13 yaş ve üzeri çocukların hesapları, ebeveynlerin kendi hesaplarıyla ilişkilendirilebilecek.
Bu entegrasyon sayesinde ebeveynler; çocuğun sohbet geçmişini kısıtlama, yapay zekanın öğrenme kapasitesi olan hafızayı kapatma ve belirli saat dilimlerinde ChatGPT kullanımını tamamen engelleme gibi çeşitli kontrol özelliklerini aktif olarak kullanabilecekler.
Sistem, bir kriz anı algıladığında ebeveynleri anında uyaracak ve ulaşılamama durumunda yerel yetkililerin duruma müdahale etmesi sağlanacak.
OpenAI, ayrıca uzun vadeli bir çözüm olarak kullanıcıların yaşını tahmin etmeye yönelik bir teknoloji geliştirdiğini de açıkladı.
Yaşın kesin olarak belirlenemediği belirsiz durumlarda, güvenlik ilkesi gereği sistem, ilgili kullanıcıyı otomatik olarak 18 yaş altı kategorisine dahil edecek.
Reşit olan kullanıcılar ise basit bir yaş doğrulama süreci ile standart ChatGPT deneyimini sürdürebilecekler.
SENATO OTURUMU VE GÜVENLİK ADIMLARININ ZAMANLAMASI
Bu önemli güvenlik duyuruları, ABD Senatosu Adalet Komitesi'nin düzenlediği ve başlığı 'Yapay Zeka Sohbet Botlarının Yarattığı Zararlar' olan oturumla aynı gün kamuoyuna açıklandı.
Söz konusu komite oturumunda, ChatGPT ile uzun süreli etkileşim sonrasında intihar ettiği iddia edilen bir gencin babası da bir konuşma yaparak konunun aciliyetini gözler önüne sermişti.
OpenAI'ın bu kapsamlı ve radikal güvenlik önlemleri alma kararı, hem kamuoyunun artan baskısına hem de Senato'daki bu trajik olayın tartışılmasına bir cevap niteliğinde görülüyor.
Şirket, yetişkin kullanıcıların gizlilik ve özgürlük haklarını koruma sözü verse de, genç kullanıcılar için korumacı bir yaklaşımın artık temel öncelik olduğunu teyit ediyor.
Bu beceriler size 20 yıl sonra iş bulduracak! Yapay zekanın etkilemeyeceği meslekler
