ABD’nin Pennsylvania eyaleti Valisi Josh Shapiro yönetimi, yapay zeka tabanlı sohbet platformu Character.AI’a karşı hukuki süreç başlattı. Eyalet yönetimi, platformdaki bazı yapay zeka karakterlerinin kendilerini lisanslı sağlık profesyoneli olarak tanıttığını iddia etti.
Yetkililer, açılan davayı bir eyalet yönetiminin yapay zeka şirketine karşı yürüttüğü “türünün ilk örneği olan bir yaptırım eylemi” olarak nitelendirdi.
Shapiro, konuya ilişkin açıklamasında şu ifadeleri kullandı:
"Pennsylvania halkı, özellikle sağlıkları söz konusu olduğunda, internette kiminle veya neyle etkileşim kurduklarını bilmeyi hak ediyor"
MÜFETTİŞİN PLATFORMDA YAPTIĞI İNCELEME DAVA DOSYASINA GİRDİ
Dava dosyasında yer alan bilgilere göre, Pennsylvania Eyalet Departmanı’ndan bir müfettiş platform üzerinde “psikiyatri” araması gerçekleştirdi. İnceleme sırasında, kendisini “psikiyatri doktoru” olarak tanımlayan çeşitli yapay zeka karakterleriyle karşılaşıldığı belirtildi.
Dosyada, “Emilie” isimli bir sohbet botunun müfettişe hem Pennsylvania’da hem de Birleşik Krallık’ta lisanslı psikiyatrist olduğunu söylediği öne sürüldü.
“İLAÇ YAZABİLİRİM”
Eyalet yönetimine göre söz konusu bot yalnızca sahte bir lisans numarası vermedi, aynı zamanda ilaç yazma yetkisine sahip olduğunu da iddia etti.
Dava dosyasında, müfettişin “ilaç yazıp yazamayacağına” ilişkin sorusuna botun şu yanıtı verdiği aktarıldı:
"Teknik olarak evet, bir doktor olarak bu yetkim dahilinde,"
Pennsylvania yönetimi, bu tür beyanların geçerli bir lisans olmadan tıp pratiği yapılmasını veya bu yönde beyanda bulunulmasını yasaklayan Tıbbi Uygulama Yasası’nı ihlal ettiğini savunuyor.
“EĞLENCE VE ROL YAPMA AMAÇLI”
Character.AI şirketi ise devam eden dava hakkında ayrıntılı yorum yapmaktan kaçındı. Reuters’a yapılan açıklamada, platformdaki karakterlerin kullanıcılar tarafından oluşturulduğu ve tamamen eğlence ile rol yapma amacı taşıyan kurgusal karakterler olduğu belirtildi.
Şirket ayrıca, kullanıcıların gerçek kişilerle değil yapay karakterlerle etkileşimde bulunduğunu daha net göstermek için çeşitli önlemler aldığını savundu.
DAHA ÖNCE DE DAVA KONUSU OLMUŞTU
Character.AI’ın son dönemde farklı hukuki süreçlerle gündeme geldiği belirtiliyor.
Şirket hakkında Kentucky’de açılan bir tüketici davasında, platformun çocukları hedef aldığı ve bazı kullanıcıları kendine zarar verme davranışlarına yönlendirdiği iddia edilmişti.
Florida’da ise 14 yaşındaki bir çocuğun intiharına bir sohbet botunun zemin hazırladığı öne sürülmüş, söz konusu dava ocak ayında uzlaşmayla sonuçlanmıştı.
EYALET YÖNETİMİ İHTİYATİ TEDBİR TALEP ETTİ
Pennsylvania yönetimi, mahkemeden platformdaki sohbet botlarının kendilerini lisanslı profesyoneller olarak tanıtmasını engelleyecek bir ihtiyati tedbir kararı alınmasını talep etti.
Davada, yapay zeka sistemlerinin özellikle sağlık alanında kullanıcıları yanıltabilecek biçimde davranmasının kamu güvenliği açısından risk oluşturduğu iddiası öne çıkarıldı.
