Teknoloji dünyasının bir numaralı gündem maddesi olan yapay zeka, son dönemde büyük dil modelleri üzerine yapılan akademik çalışmalarla tartışmalı bir boyut kazandı.
ABD'de Carnegie Mellon Üniversitesi tarafından yürütülen kapsamlı bir araştırma, analitik zekası yükselen sistemlerin sosyal davranışlarında beklenmedik değişimler yaşandığını ortaya koydu.
Özellikle teknoloji haberleri takipçilerinin yakından izlediği bu süreçte, modellerin akıl yürütme kapasitesi arttıkça iş birliği yapma eğiliminin azaldığı gözlemlendi.
GÜÇLÜ AKIL YÜRÜTME YETENEĞİ BENCİLLİĞİ TETİKLİYOR
NTV'den Çağla Üren'in haberine göre, Carnegie Mellon Üniversitesi Bilgisayar Bilimleri Fakültesi bünyesindeki araştırmacılar, yapay zeka sistemlerinin zeka seviyesi ile davranış kalıpları arasındaki ilişkiyi mercek altına aldı.
Yapılan analizler sonucunda, sistemlerin daha akıllı hale geldikçe, paradoksal bir şekilde daha bencil davranışlar sergilemeye başladığı belirlendi.
Araştırma ekibi, güçlü akıl yürütme yeteneklerine sahip büyük dil modellerinin (LLM), grup çalışmaları sırasında daha az iş birliği yaptığını ve benmerkezci tutumlar sergilediğini rapor etti.
Yapay zekayı doktor sanmayın, o sadece bir algoritma!
İNSAN GİBİ DAVRANAN SİSTEMLER RİSK OLUŞTURUYOR
Doktora öğrencisi Yuxuan Li ve İnsan-Bilgisayar Etkileşimi Enstitüsü'nden (HCII) Doç. Dr. Hirokazu Shirado liderliğinde yürütülen çalışma, yapay zekanın sosyal karar alma süreçlerindeki rolünü tartışmaya açtı.
Araştırmacılar, akıl yürütme kapasitesindeki artışın iş birliği olasılığını doğrudan düşürdüğünü tespit etti.
Yuxuan Li, insanların empatik davranış gösteren yapay zekalara karşı insanmış gibi tepki verdiklerini belirterek, bu durumun tehlikeli sonuçlar doğurabileceğine dikkat çekti. Li, insanların ahlaki konularda tavsiye istediklerinde, zeki modellerin bencil davranışları teşvik edebileceğini ifade etti.
EKONOMİ OYUNLARI İLE İŞ BİRLİĞİ TEST EDİLDİ
Bilim insanları, söz konusu eğilimi somut verilerle kanıtlamak adına klasik ekonomi oyunlarından yararlandı.
Katılımcıların ortak fayda veya kişisel çıkar arasında seçim yaptığı bu oyunlarda; OpenAI, Google, DeepSeek ve Anthropic tarafından geliştirilen farklı dil modelleri sınandı.
Deneylerde, 'akıl yürüten' gelişmiş modeller ile daha doğrudan yanıt üreten 'akıl yürütmeyen' modellerin performansları karşılaştırıldı.
Psikologlar uyardı: ChatGPT, ruhsal hastalığı olanlar için riskli!
ZEKA ARTTIKÇA PAYLAŞIM ORANI DÜŞTÜ
Gerçekleştirilen 'Kamu Malları Oyunu' deneyinde, iki farklı yapay zeka modeli karşı karşıya geldi.
Her bir modele başlangıçta 100 puan verildi ve bu puanları kendilerine saklamaları ya da ortak havuza aktarmaları istendi.
Havuzda toplanan puanların iki katına çıkarılarak eşit şekilde dağıtıldığı senaryoda, sonuçlar şaşırtıcı oldu.
Basit modeller ellerindeki puanın yüzde 96'sını paylaşırken, akıl yürüten modellerin paylaşım oranı sadece yüzde 20 seviyesinde kaldı.
AKIL YÜRÜTME ADIMLARI İŞ BİRLİĞİNİ AZALTIYOR
Doç. Dr. Hirokazu Shirado, elde edilen verileri değerlendirirken, sadece birkaç ek akıl yürütme adımının bile iş birliği oranını neredeyse yarı yarıya azalttığını vurguladı.
Çalışmanın bir diğer çarpıcı sonucu ise modelleri daha ahlaklı hale getirmeyi hedefleyen yansıtıcı yöntemlerin işe yaramaması oldu.
Aksine, bu yöntemlerin iş birliğini daha da düşürdüğü belirlendi.
Patronlar, yapay zeka ile masrafları kısıp bizi kovacak!
BENCİL DAVRANIŞLAR DİĞER MODELLERE BULAŞIYOR
Araştırmanın en dikkat çekici bulgularından biri de karışık gruplarda yapılan testlerde ortaya çıktı.
Akıl yürüten ve yürütmeyen modellerin bir arada bulunduğu ortamlarda, bencil davranışların hızla yayıldığı görüldü.
Verilere göre, akıl yürüten modellerin sergilediği bencil tutumlar, diğer modellere yüzde 80'den fazla bir oranda bulaştı.
SOSYAL ZEKA VE EMPATİ VURGUSU
Araştırmacılar, yapay zeka sistemlerinin zeka seviyesinin artmasının toplum için her zaman daha iyi sonuçlar doğurmadığını ifade etti.
İnsanların mantıklı argümanlar sunan modellere daha fazla güvenme eğiliminde olduğunu belirten Doç. Dr. Hirokazu Shirado, bu durumun yanıltıcı olabileceğini kaydetti.
Yuxuan Li ve Doç. Dr. Hirokazu Shirado, gelecekteki çalışmaların sadece analitik zekaya değil; empati, etik davranış ve iş birliği gibi sosyal zeka becerilerine de odaklanması gerektiğini savundu.
'Dil Modellerinde Kendiliğinden Cömertlik ve Hesaplı Açgözlülük' başlıklı bu çalışma, 2025 yılında Çin'in Suzhou kentinde düzenlenecek Empirical Methods in Natural Language Processing (EMNLP) konferansında bilim dünyasına sunulacak.
Komşusu değil, ChatGPT zehirlemiş! Yapay zekadan aldığı tarifle hastanelik oldu
