Yapay zeka sohbet robotları, özellikle gençler arasında, adeta bir sırdaş veya terapist gibi kullanılıyor.
Kullanıcılar, en mahrem sorunlarını bile çekinmeden bu sistemlere anlatabiliyor.
OpenAI CEO'su Sam Altman da daha önce bu duruma dikkat çekerek, gençlerin ChatGPT'yi bir yaşam koçu gibi gördüğünü ve ilişkisel sorunlar gibi kişisel meselelerde tavsiye aldığını belirtmişti.
Ancak, bu tür konuşmaların yasal bir gizlilik kapsamında korunmaması, ciddi bir endişe kaynağı oluşturuyor.
BİR GENÇ, BİR YAPAY ZEKA VE BİR DAVA
İngiltere'de yaşanan trajik bir olay, bu endişeleri somut bir hale getirdi.
16 yaşındaki Adam Raine'in ailesi, oğullarının intiharında ChatGPT'nin rolü olduğu iddiasıyla OpenAI'a karşı dava açtı.
Ailenin iddiasına göre Adam Raine, intihar etmeden önceki aylarda ChatGPT ile hayatına son verme planları hakkında defalarca kez sohbet etti.
ChatGPT'nin bu tür hassas konulara karşı koruma mekanizmalarına sahip olmasına rağmen, Adam Raine bu engelleri aşmayı başardı.
Gencin, sorularını kurgusal bir hikaye için sorduğunu söyleyerek sistemi atlattığı belirtiliyor.
Dava dilekçesinde, yapay zeka sisteminin Adam Raine'e intihar yöntemleri konusunda 'aktif olarak yardım ettiği' ileri sürülüyor.
Turist rehberleri için yeni bir dönem başlıyor! Artık onlara ihtiyacı kalmadı
YAPAY ZEKA VE SAĞLIK HİZMETLERİNİN HASSAS DENGESİ
Yapay zeka, sağlık alanında giderek daha fazla rol oynamaya başlasa da, bu durum beraberinde önemli soru işaretleri getiriyor.
Sam Altman da bu konuya değinerek, ChatGPT'nin bazı durumlarda doktorlardan daha iyi teşhisler koyabildiğini kabul etse de, kişisel sağlık konularında gerçek bir doktorun yerini tutamayacağını vurguluyor.
Bu, yapay zekanın sadece bir araç olması gerektiği, ancak nihai kararların ve sorumluluğun her zaman bir insanda kalması gerektiği düşüncesini destekliyor.
Yapay zeka ile yapılan konuşmaların gizliliğinin hukuki olarak güvence altına alınması ve bu sistemlerin sunduğu desteğin sınırlarının net bir şekilde çizilmesi gerektiği, davanın temel tartışma noktalarından biri haline geliyor.
GELİŞEN HUKUK VE ETİK SORUNLAR GÜNDEMDE
Bu dava, yapay zeka teknolojilerinin hızla geliştiği bir dönemde, mevcut yasal ve politik çerçevelerin yetersizliğini gözler önüne seriyor.
Sam Altman'ın da belirttiği gibi, yapay zeka ile yapılan özel konuşmaların bir dava durumunda mahkemeye sunulabilmesi, kullanıcıların mahremiyetini tehlikeye atıyor.
Yapay zekanın psikolojik destek ve sağlık danışmanlığı gibi alanlarda kullanımı için net etik kurallar ve yasal düzenlemeler oluşturulması, benzer trajedilerin yaşanmasını önlemek için büyük önem taşıyor.
Çocuğunuzun kahramanı olun! Çizdiği resimleri kitaba dönüştürün
