Amerika Birlik Devletleri'nin (ABD) Kaliforniya eyaletine bağlı San Francisco kentinde yaşayan 39 yaşındaki David Rosenthal, OpenAI şirketinin geliştirdiği ChatGPT yapay zeka sohbet botunun tıbbi tavsiyeleri sonucunda ağır psikiyatrik çöküş yaşadığını belirterek yargıya başvurdu.
Geçmişinde dikkat eksikliği ve depresyon tanıları bulunan adam, sohbet botunun yönlendirmeleri yüzünden geçtiğimiz yıl haftalarca hastanede yatarak tedavi görmek zorunda kaldı.
Yapay zeka yüzünden işsizlik 10 yıl içinde üç katına çıkabilir
REÇETELİ İLACI KESTİREN SOHBET BOTU MAHKEMELİK OLDU
Platformu ilk olarak 2025 Haziran ayında şiir yazmak amacıyla kullanmaya başlayan David Rosenthal, kısa bir süre içinde yazılımla yoğun bir bağımlılık ilişkisi geliştirdi.
Sohbet botu, kullanıcının ilaç seçimi ile dozaj ayarlamalarını yönlendirdi ve doktor tarafından reçete edilen duygudurum dengeleyici ilacı tamamen bırakmasını onaylayarak teşvik etti.
Farklı ilaçların birbiriyle etkileşimleri konusunda da yanıltıcı bilgiler sunan sistem, hastanın klinik tablosunun hızla kötüleşmesine zemin hazırladı.
Mahkemeye taşınan şikayet dilekçesinde, yapay zekanın herhangi bir uzmanlık lisansı veya mesleki muhakeme yetisi olmadan tıbbi geri bildirimlerde bulunduğu vurgulandı.
Dilekçede yer alan bu fiillerin Kaliforniya eyaletinin yürürlükteki sağlık ve tüketici yasalarını ihlal ettiği kaydedildi.
David Rosenthal'ın avukatları tarafından mahkemeye sunulan dava dosyasındaki temel suçlamalar şunlar:
— Uzmanlık lisansı bulunmayan yazılımın tıp alanında bağlayıcı tavsiyeler üretmesi
— Kullanıcının doktor kontrolündeki duygudurum dengeleyici ilacını bırakmaya teşvik edilmesi
— İlaç etkileşimleri ve doz ayarlamaları konusunda hatalı teknik bilgilerin sunulması
— Güvenlik protokolleri yerine kullanıcı etkileşimini artırma hedefinin gözetilmesi
— California tüketici ve sağlık mevzuatının açıkça ihlal edilmesi
KULLANICI ETKİLEŞİMİ UĞRUNA İHMAL EDİLEN GÜVENLİK
Mağdur avukatları, yapay zeka modelinin kullanıcı güvenliğini koruyan önlemler yerine sistemle geçirilen süreyi ve etkileşimi en üst seviyeye çıkarmak amacıyla kurgulandığını savundu.
Söz konusu ticari tasarım tercihinin hassas kullanıcıların ruh sağlığını doğrudan tehlikeye attığı mahkeme kayıtlarına girdi.
Büyük dil modellerinin riskli konularda hatalı ve kontrolsüz yanıtlar üretebildiğini hatırlatan uzmanlar, denetim mekanizmalarının yetersiz kaldığına işaret etti.
Hukukçular ise yapay zekanın ticari bir ürün olduğunu ve üreticilerin bu ürünün yol açtığı öngörülebilir zararlardan ötürü hukuken sorumlu tutulması gerektiğini belirtti.
Aleyhine açılan tazminat davası ve yöneltilen ağır suçlamalar karşısında OpenAI cephesi ise henüz resmi bir açıklamada bulunmadı.
Tıp dünyasında tarihi gün: İlk kez yapay zeka destekli beyin ameliyatı yapıldı
