İnternet arama sonuçları üzerinde yaptığı son değişiklikle Google, sağlık alanındaki riskli içerikleri temizliyor.
Dünyanın en çok kullanılan arama motoru, kullanıcı güvenliğini sağlamak adına sisteminde köklü değişikliğe gitti.
The Guardian raporu sonrasında harekete geçen şirket, yapay zeka destekli arama sonuçlarında insan sağlığını tehlikeye atabilecek özetleri kaldırdı.
Konuyla ilgili British Liver Trust açıklaması da hatanın ciddiyetini gözler önüne seriyor.
Google kendi ayağına sıkmaya başladı! Yayıncılar üretiyor, yapay zeka yiyor
GOOGLE YAPAY ZEKA ÖZETLERİ NEDEN KALDIRILDI?
İngiltere'nin saygın gazetelerinden The Guardian, Google sistemlerinin kullanıcılara sunduğu bilgileri mercek altına aldı.
Yapılan kapsamlı inceleme sonucunda, arama motorunun sağlıkla ilgili kritik sorularda sunduğu özetlerin yanıltıcı olduğu belirlendi.
Özellikle laboratuvar test sonuçlarıyla ilgili verilen bilgilerin, bağlamdan kopuk olduğu ve hastaları endişeye sürükleyebileceği tespit edildi.
Bu gelişme üzerine şirket, potansiyel tehlike barındıran yapay zeka özetlerini yayından çekti.
GOOGLE SAĞLIK ARAMALARINDA HANGİ HATALARI YAPTI?
Gazetenin araştırmasına göre; "Karaciğer kan testleri için normal değerler nedir?" şeklindeki aramalarda yapay zeka, tıbbi gerçeklikten uzak sayısal aralıklar sunuyordu.
Bu durum, ciddi karaciğer rahatsızlığı bulunan kişilerin kendi test sonuçlarını yanlış yorumlamasına neden oluyordu.
Uzmanlar; yaş, cinsiyet, genetik faktörler ve etnik köken gibi değişkenlerin hesaba katılmadığı bu tür genel bilgilerin, hastaların tedavi süreçlerini aksatabileceğini vurguluyor.
Yanlış bir 'normallik' algısı, hayati önem taşıyan doktor randevularının iptal edilmesine yol açabiliyor.
İş yerinde robotlar değil yapay zeka bilenler koltuğunuzu alacak!
YAPAY ZEKA SAĞLIK SONUÇLARI GÜVENİLİR Mİ?
Ortaya çıkan bulgular, sorunun sadece tek bir test türüyle sınırlı olmadığını gösteriyor.
The Guardian ve çeşitli sağlık kuruluşları, aynı sorunun farklı kelimelerle sorulması halinde sistemin hâlâ benzer hatalı özetler üretebildiğini belirtiyor.
Bu durum, üretken yapay zekanın sağlık gibi hassas bir alanda nasıl konumlandırılması gerektiği konusunda yapısal sorunlar olduğunu kanıtlıyor.
Teknoloji devinin sadece belirli kelimeleri yasaklamak yerine, algoritmalarını medikal etik ve güvenlik çerçevesinde yeniden yapılandırması gerekiyor.
GOOGLE AI OVERVIEWS NEDİR VE NASIL ÇALIŞIR?
British Liver Trust yetkilileri, riskli içeriklerin kaldırılmasını olumlu bir ilk adım olarak görüyor ancak bunun yeterli olmadığını savunuyor.
Google cephesinden yapılan açıklamada ise AI Overviews özelliğinin sadece 'yüksek güven' duyulan sorgularda devreye girdiği ve içeriklerin dahili ekiplerce denetlendiği iddia ediliyor.
Ancak yaşanan bu son olay, arama sonuçlarının en tepesinde yer alan yapay zeka kutucuklarının, özellikle kanser ve ruh sağlığı gibi kritik konularda hata payının olmadığını bir kez daha hatırlatıyor.
Yapay zeka, paylaşımcılık yerine bencilliği seçiyor!
