Bugün insanlar sağlık şikayetlerinden yatırım kararlarına, tarımsal uygulamalardan hukuki araştırmalara kadar pek çok konuda yapay zekâ araçlarından yararlanıyor. Sorun ise sistemlerin yanlış veya uydurma bilgileri de son derece kendinden emin bir üslupla aktarabilmesi.
25 dönümlük tarla kullanılamaz hale geldi
Bunun dikkat çeken örneklerinden biri Çin'in Anhui eyaletinde yaşandı. Chuzhou kentinde yaşayan 67 yaşındaki bir çiftçi, susam tarlasında bulunan yabani ot ve zararlılarla mücadele etmek için yapay zekâdan ilaçlama konusunda tavsiye aldı.
Daha önce gübreleme ve tarımsal planlama gibi konularda da yapay zekâdan yararlanan çiftçi, aldığı öneriyi başka bir kaynaktan kontrol etmeden uyguladı. Sonuçta yaklaşık 25 dönümlük tarladaki ürünler kurudu.
Kaan Zenginli’nin Türkiye gazetesinde yer alan haberine göre, ziraat uzmanları, kullanılan herbisitin içerdiği etken maddenin susama zarar verebileceğini belirtti. Olay, yapay zekâdan alınan tarımsal bilgilerin uzman görüşü ve ürün etiketleriyle doğrulanmasının önemini ortaya koydu.
SAĞLIK TAVSİYESİ ZEHİRLENMEYLE SONUÇLANDI
Benzer riskler sağlık alanında da görülüyor. Hastalık belirtilerini anlamak veya ilaçlar hakkında bilgi almak isteyen kullanıcıların sohbet robotlarına başvurması yaygınlaşırken, hatalı önerilerin sonuçları ağır olabiliyor.
Örneklerden birinde bir kişi, sofra tuzundaki sodyum miktarını azaltmak amacıyla yapay zekâdan tavsiye istedi. Verilen yönlendirme doğrultusunda tuz yerine sodyum bromür kullanmaya başlayan kişi, yaklaşık üç ay boyunca bu maddeyi tüketti.
Sonunda brom zehirlenmesi nedeniyle hastaneye kaldırılan kişi, psikoz belirtileri nedeniyle tedavi gördü.
Uzmanlar, özellikle ilaç, beslenme ve acil sağlık durumlarında yapay zekâ yanıtlarının doktor değerlendirmesinin yerine konulmaması gerektiğine dikkat çekiyor.
YAPAY ZEKÂ OLMAYAN MAHKEME KARARLARINI DA ÜRETEBİLİYOR
Hukuk alanında da benzer bir sorun gündeme geldi. ABD'de bir avukat, dava hazırlarken hukuki araştırma amacıyla ChatGPT'den yararlandı.
Yapay zekânın sunduğu bazı mahkeme kararları ve içtihatlar hazırlanan dilekçeye dahil edildi. Ancak daha sonra söz konusu kararların gerçekte hiç var olmadığı ortaya çıktı.
Böylece yapay zekânın ürettiği kurgusal bilgiler, doğrulama yapılmadan hukuki bir sürecin parçası haline geldi.
EN BÜYÜK RİSK: KENDİNDEN EMİN YANLIŞLAR
Bu örneklerin ortak noktası, yapay zekânın yalnızca hata yapması değil, hatalı bilgiyi doğruymuş gibi sunabilmesi.
Yanlış bir cevap; tarımda ürün kaybına, sağlıkta zehirlenmeye, hukukta ise ciddi sorunlara neden olabiliyor. Bu nedenle uzmanların temel uyarısı, özellikle yüksek risk taşıyan konularda yapay zekânın bir yardımcı araç olarak kullanılması ve verilen bilgilerin güvenilir kaynaklardan mutlaka doğrulanması yönünde.
Kısacası yapay zekâdan gelen cevabın akıcı ve ikna edici olması, onun doğru olduğu anlamına gelmiyor.
