OpenAI şirketi, kullanıcıların kriz ve bunalım anlarında hızlıca destek mekanizmalarına ulaşabilmesini amaçlayan 'Trusted Contact' adlı yeni emniyet sistemini ilan etti.
Hayata geçirilen bu yeni emniyet kilidi sayesinde kullanıcılar, bir arkadaşlarını ya da aile fertlerini hesaplarına acil durumlarda ulaşılabilecek güvenilir kişi olarak ekleme imkanına kavuştu.
Yapay zeka ile dertleşme modası! Psikologların yerini alabilir mi?
SİSTEM KENDİNE ZARAR VERME SÖYLEMLERİNİ ANINDA TESPİT EDİYOR
Söz konusu koruma katmanı, kullanıcının kendisine zarar verme veya intihar eğilimiyle bağlantılı ciddi sohbetler gerçekleştirdiğini saptadığı an devreye giriyor.
Bu durumlarda yapay zeka platformu öncelikle bireyi doğrudan kendi belirlediği acil durum kontağıyla iletişime geçmeye yönlendiriyor.
Platform, bu hassas ve zorlu iletişimi başlatmayı kolaylaştıracak taslak cümle önerilerini de kullanıcının ekranına yansıtıyor.
ÖZEL EĞİTİMLİ İNSAN İNCELEME EKİBİ RİSKLİ YAZIŞMALARI DENETLİYOR
Yazılım devinin paylaştığı bilgilere göre süreç tamamen yapay zeka algoritmalarıyla ve otomatik ilerlemiyor.
Şirket çatısı altında görev yapan ve kriz durumları için özel eğitim alan bir insan inceleme ekibi, riskli görülen yazışmaları titizlikle inceliyor.
Eğer hayati tehlikenin ciddi boyutta olduğu sonucuna varılırsa, kullanıcının daha önce sisteme tanımladığı yakınına e-posta, kısa mesaj servisi (SMS) veya uygulama içi bildirim gönderiliyor.
ChatGPT, 'Anneni öldür' tavsiyesi verdi iddiası! Annesini boğup intihar etti
KULLANICI GİZLİLİĞİ İÇİN SOHBET GEÇMİŞİ VEYA ÖZETLERİ GİZLİ TUTULUYOR
Şirket, acil durumlarda gönderilen bu uyarı mesajlarının son derece sınırlı veriler içerdiğini vurguladı.
Buna göre sisteme kaydedilen yakına yalnızca genel düzeyde bir emniyet endişesi aktarılıyor.
Kullanıcının yapay zeka botu ile yaptığı detaylı yazışma dökümleri, geçmiş sohbet kayıtları veya konuşma özetleri kesinlikle üçüncü şahıslarla paylaşılmıyor.
GÜVENİLİR KİŞİ DAVETLERİ İÇİN BİR HAFTALIK ONAY SÜRESİ VE YAŞ SINIRI VAR
Bu emniyet ağından yararlanmak isteyen kişilerin, sistem üzerinden en az 18 yaşını dolduran bir bireyi davet etmesi zorunlu.
Kendisine çağrı ulaşan yakın kişinin koruma modülünü aktif hale getirebilmesi için bir hafta içinde gelen daveti onaylaması gerekiyor.
Yaş sınırı politikası ülkelerin yasal mevzuatlarına göre değişirken, Güney Kore sınırlarında yaşayan kullanıcılar için bu alt sınır 19 yaş olarak uygulanıyor.
Psikologlar uyardı: ChatGPT, ruhsal hastalığı olanlar için riskli
KLİNİSYENLER VE RUH SAĞLIĞI KURULUŞLARIYLA ORTAKLAŞA GELİŞTİRİLDİ
Emniyet bildirimlerini ulaştırma konusunda zamanla yarışan OpenAI, insan denetim sürecini bir saatten daha kısa sürede tamamlamayı hedefliyor.
Şirket, bu hassas koruma modelinin geliştirilme aşamasında uzman klinisyenler, akademisyenler, araştırmacılar ve intiharı önleme alanında faaliyet gösteren sivil toplum kuruluşları ile yakın bir iş birliği yürüttü.
Yeni altyapı, yapay zeka sohbet botlarının ruh sağlığı üzerindeki etkilerinin yoğun şekilde tartışıldığı bir dönemde geldi.
YAPAY ZEKA PLATFORMLARINA YÖNELİK TOPLUMSAL VE YASAL BASKILAR ARTIYOR
Geçtiğimiz yıllarda ChatGPT platformu üzerinde yürütülen bazı diyalogların ardından meydana gelen üzücü ve trajik olaylar, kamuoyunda derin yankı uyandırdı.
Yaşanan bu gelişmeler, teknoloji üreticilerinin dijital emniyet bariyerlerini ve koruyucu filtrelerini artırması yönündeki toplumsal ve yasal baskıları belirgin şekilde tırmandırdı.
Çocuklarının intiharından ChatGPT'yi sorumlu tutan aile, yapay zekaya dava açtı
