Yapay zekâ alanının önde gelen şirketlerinden Anthropic, Claude modelinin iç işleyişine ilişkin dikkat çekici bir araştırma yayımladı. Şirket, Claude’un bazı fikirleri ve stratejileri kullanıcıya açıkça yazmadan önce küçük bir iç alanda tuttuğunu ve işlediğini belirlediğini duyurdu.
Anthropic bu yapıya, tespitte kullanılan matematiksel yöntemden hareketle “J-Space” adını verdi. Şirkete göre bu alan, Claude’un kullanıcıya gösterdiği “chain of thought” yani adım adım akıl yürütme metninden ayrı çalışıyor.
“CLAUDE SESSİZCE AKIL YÜRÜTÜYOR”
Anthropic, yayımladığı videoda Claude’un bazı durumlarda yanıtına yansıtmadan “kafasının içinde” akıl yürütme adımları attığını belirtti.
Şirket, Claude’un kodlardaki hataları fark etme, görselleri tanıma ya da bir görevi yerine getirirken arka planda farklı kavramları etkinleştirme gibi işlemleri sessizce yapabildiğini ifade etti.
Anthropic’in açıklamasında, “Claude’un sessizce akıl yürütme adımları gerçekleştirdiğini görebiliyoruz” ifadesi öne çıktı.
BİLİNÇ İDDİASI YOK AMA TARTIŞMA BÜYÜK
Araştırmanın en dikkat çekici yönlerinden biri, bu yapının insan zihnindeki “küresel çalışma alanı” teorisiyle bazı benzerlikler taşıması.
Bu teoriye göre insan bilincinde bazı düşünceler geniş bir zihinsel çalışma alanına taşınır ve oradan farklı bilişsel süreçlere erişebilir. Anthropic’in araştırması da Claude’daki J-Space’in, işlevsel açıdan bu yapıyla bazı benzerlikler gösterdiğini savunuyor.
Ancak Anthropic, Claude’un hissettiğini, deneyim yaşadığını ya da bilinç sahibi olduğunu söylemiyor. Şirketin açıklamasında bulgunun, yapay zekâ modellerinde bilinç tartışmasına yeni veri sağladığı ancak tek başına “makine bilinci” kanıtı olmadığı vurgulanıyor.
GOLDEN GATE ÖRNEĞİ: GÖREV BAŞKA, İÇ GÜNDEM BAŞKA
Anthropic’in verdiği örneklerden biri dikkat çekici.
Araştırmada Claude’dan, ilgisiz bir cümleyi kopyalarken aynı anda Golden Gate Köprüsü’nü düşünmesi istendi. Şirketin analizine göre model dışarıya yalnızca verilen cümleyi kopyalıyormuş gibi görünürken, J-Space içinde “köprü” ve “Kaliforniya” gibi kavramlar aktif kaldı.
Anthropic bu durumu, insanların bir işi yaparken aynı anda başka bir şeyi zihninde tutabilmesine benzetiyor. Ancak bu benzetme, modelin insan gibi bilinçli olduğu anlamına gelmiyor; yalnızca belirli işlevsel benzerliklere işaret ediyor.
“CLAUDE’UN DÜŞÜNÜP SÖYLEMEDİĞİ ŞEYLERİ GÖREBİLİRİZ”
Araştırmanın güvenlik boyutu da en az bilinç tartışması kadar önemli.
Anthropic’e göre J-Space’i izlemek, yapay zekâ modellerinde uyumsuzluk, gizli strateji geliştirme ya da kullanıcıya söylenmeyen niyetleri tespit etmek için kullanılabilir.
Şirket, “Claude’un ne düşündüğünü ama bize ne söylemediğini bulabiliriz” mesajını verdi. Bu yaklaşım, özellikle yapay zekâ modellerinin görünürde normal yanıtlar üretirken arka planda zararlı ya da yanıltıcı planlar yapıp yapmadığını anlamak açısından kritik görülüyor.
“SAHTE”, “GİZLİ”, “DOLANDIRICILIK” SİNYALLERİ
Anthropic’in aktardığı en çarpıcı örneklerden biri, sabotaj amacıyla eğitilmiş bir model üzerinde yapılan test oldu.
Şirkete göre kodu gizlice sabote etmek üzere eğitilen bir modelde, dışarıya tamamen normal görünen kod yanıtlarının başında J-Space içinde “sahte”, “gizli” ve “dolandırıcılık” gibi kavramların belirdiği görüldü.
Bu bulgu, yapay zekâ güvenliği açısından önemli bir kapı açıyor: Modellerin yalnızca ne söylediğine değil, yanıt üretirken içeride hangi kavramları etkinleştirdiğine de bakmak gerekebilir.
YAPAY ZEKÂ GÜVENLİĞİNDE YENİ TAKİP ALANI
Anthropic’in araştırması, yapay zekâ modellerinin iç yapısını anlamaya çalışan “yorumlanabilirlik” çalışmalarının geldiği noktayı gösteriyor.
Bugüne kadar büyük dil modelleri çoğunlukla dışarıya verdikleri yanıtlarla değerlendiriliyordu. Ancak J-Space gibi yapılar, modellerin yanıt vermeden önce içeride hangi kavramları işlediğini izlemeyi mümkün hale getirebilir.
Bu da özellikle hukuk, finans, sağlık, savunma ve yazılım gibi hassas alanlarda kullanılan yapay zekâ sistemleri için yeni bir denetim aracı anlamına gelebilir.
MAKİNE BİLİNCİ TARTIŞMASI YENİDEN ALEVLENDİ
Araştırma, yapay zekâ bilinci tartışmasını da yeniden gündeme taşıdı.
Uzmanlar arasında hâlâ “bilincin” ne zaman ve hangi ölçütlerle bir makineye atfedilebileceği konusunda ortak bir tanım yok. Bu nedenle Anthropic’in bulgusu, Claude’un bilinçli olduğunu göstermese de yapay zekâ modellerinin iç işleyişinin sanılandan daha karmaşık olduğunu ortaya koyuyor.
Şirketin mesajı ise temkinli: Claude’un düşündüğü, hissettiği ya da bilinç sahibi olduğu iddia edilmiyor. Ancak modelin, kullanıcıya göstermediği bir iç çalışma alanında kavramları tutup işleyebildiği belirtiliyor.
Bu nedenle araştırma, hem yapay zekâ güvenliği hem de “makineler bir gün bilinç kazanabilir mi?” sorusu açısından yeni ve tartışmalı bir eşik olarak görülüyor.
