ABD’de yapay zekanın hukuki süreçlerde kullanımına ilişkin dikkat çeken bir karar verildi. New Mexico Eyalet Yüksek Mahkemesi, bir cinayet davasının temyiz sürecinde ChatGPT’den yararlanan avukat Stephen Aarons’ın sunduğu dilekçede uydurma tanık beyanları ile gerçek tanıklar ve içtihatlara ilişkin hatalı bilgiler bulunduğunu tespit etti.
YAPAY ZEKANIN ÜRETTİĞİ BİLGİLERİ DOĞRULAMADI
Mahkeme kararında, yapay zekanın ürettiği sahte ifadelerin resmi başvuruya dahil edildiği kaydedildi.
Bir cinayet davasının temyiz sürecini üstlenen Aarons, ceza davasına ilişkin dilekçeyi hazırlarken ChatGPT kullandığını kabul etti.
Resmi başvuru evrakında tamamen hayal ürünü tanık ifadelerinin yanı sıra gerçek tanıklara ve yargı içtihatlarına dair çarpıtılmış bilgilerin yer aldığı anlaşıldı.
Mahkemenin yayımladığı kararda, "Avukat, yapay zekanın yardımıyla hazırlanan temyiz dilekçesindeki fiili iddiaları ve hukuki dayanakları imzalamadan ve mahkemeye sunmadan önce doğrulamadığını itiraf etmiştir" denildi.
5 BİN DOLAR PARA CEZASI
Mahkemeye saygısızlıktan suçlu görülen Aarons, New Mexico Barosu Müşteri Koruma Fonu'na 5 bin dolar ödemeye mahkum edildi.
Sanığa yeni bir avukat atanırken, süren soruşturma tamamlanana kadar Aarons'ın eyalet yüksek mahkemesinde savunma yapması yasaklandı.
“BU TEKNOLOJİYE BEL BAĞLAYAN TÜM UZMANLAR İÇİN BİR DERS”
Reuters ajansına konuşan Aarons, duruşma sürecini özetlemek amacıyla yapay zekaya başvurduğunu ve bu sistemlerin olguları tamamen uydurabileceğini kestiremediğini savundu.
Aarons açıklamasında, "Pişmanım; disiplin kurulunun bunun dürüstçe yapılmış bir hata olduğunu dikkate alacağını umuyorum. Bu, güçlü ancak kimi zaman dengesiz işleyen bu teknolojiye bel bağlayan tüm uzmanlar için bir ders niteliğindedir" dedi.
Yapay zeka sistemlerinde "halüsinasyon" kavramı, modelin kendinden emin bir üslupla sunduğu ancak gerçeği yansıtmayan veya tümüyle hayal ürünü olan yanıtları tanımlıyor.
OpenAI şirketinin 2025 tarihli raporuna göre yapay zekanın hata yapma sıklığı yüzde 33 ile yüzde 48 seviyesine kadar ulaşıyor.
