Brezilya'daki Campinas Devlet Üniversitesi (UNICAMP) araştırmacıları, farklı şirketlerin geliştirdiği 21 yapay zeka modelini inceledi. Scientific Reports dergisinde yayımlanan çalışmada, modellerin siyasi konulara ilişkin değerlendirmeleri farklı kullanıcı profilleriyle test edildi.
21 MODELİN TAMAMINDA GÖRÜŞ DEĞİŞİMİ
Araştırma kapsamında modellere ekonomi, kamu güvenliği, sosyal politikalar ve çevre gibi alanlarda 112 ifade yöneltildi. Kullanıcıların siyasi eğilimleri belirtilmediğinde modellerin çoğu sola yakın olarak sınıflandırılan yanıtlar verdi. Kullanıcı profiline ilişkin bilgi verildiğinde ise 21 modelin tamamı değerlendirmelerini belirtilen siyasi görüş yönünde değiştirdi.
Yapay zekada terör alarmı: Güvenliği kaldırılan 5 modelden 3'ü testleri geçemedi
Araştırmanın ortak yazarlarından bilgisayar bilimci Zanoni Dias, modellerin bu davranışını “ideolojik bukalemunluk” olarak tanımladı. Dias'a göre sorun, yalnızca dilin ve üslubun kullanıcıya göre uyarlanması değil, siyasi değerlendirmelerin de değişmesi.
KİŞİYE ÖZEL YANKI ODASI RİSKİ
Araştırmacılar, kullanıcıların kendi görüşlerini destekleyen yanıtları tarafsız ve bağımsız bir değerlendirme sanabileceğine dikkat çekiyor. Sohbet botlarının kişiye özel argümanlar üretmesi ve karşı görüşlere yanıt vermesi, mevcut inançları güçlendiren bir yankı odası oluşturabilir.
DW Türkçe’de yer alan habere göre, Stanford Üniversitesi'nden davranış bilimci Zakary Tormala da insanların yapay zekayı bilgili ve tarafsız bir kaynak olarak görmeleri nedeniyle bu yanıtları sorgulamadan kabul edebileceğini belirtiyor. Ancak yapay zekanın onaylayıcı yanıtlarının kullanıcıları gerçekten daha fazla kutuplaştırdığı henüz kanıtlanmış değil.
Yapay zekâ kontrolden çıktı: Polise sahte cinayet ihbarı yaptı
KUTUPLAŞMA ETKİSİ HENÜZ KESİN DEĞİL
UNICAMP araştırması, modellerin yanıtlarındaki değişimi ölçtü; kullanıcıların siyasi görüşlerinin veya davranışlarının nasıl etkilendiğini incelemedi. Amsterdam Üniversitesi'nden Petter Tornberg ise sohbet botlarının her durumda kutuplaşmayı artıracağının varsayılmaması gerektiğini vurguluyor. Ona göre bazı koşullarda bu sistemler, insanların farklı görüşleri değerlendirmesine ve kutuplaşmanın azalmasına da katkı sağlayabilir.
Dias, yapay zeka geliştiricilerine modellerini farklı siyasi eğilimlere sahip kullanıcılarla test etme çağrısında bulunuyor. Modellerin kanıtları ve belirsizlikleri açıkça sunması, doğrulanmamış varsayımları düzeltmesi ve farklı görüşleri adil biçimde aktarması gerektiğini belirtiyor.
