Bir önceki yazımda, insanların çoğu zaman hakikati aramak yerine kimlik ve inançlarıyla örtüşen bilgileri sorgulamadan kabul ettiklerini anlatmıştım. Ayrıca inandıklarıyla çelişen kanıtlardan nasıl kaçındıklarını, yani Dan Kahan'ın kimlik koruyucu biliş dediği olguyu ele almıştım.

Şimdi bu tabloyu daha da tehlikeli hâle getiren bir gelişmeyle karşı karşıyayız.

Basına yansıyan haberlere göre, Avrupa'da yapay zekâ şirketleri milyonlarca ikinci el kitabı satın alıp dijitalleştirdikten sonra fiziksel nüshalarını imha ediyorlar.

Dijitalleştirme, bilgiyi çoğaltmayı ve saklamayı kolaylaştırdığı kadar değiştirmeyi, sansürlemeyi, görünmez kılmayı da kolaylaştırıyor.

Basılı nüshası kalmayan eserlerin dijital kayıtları, kolayca ve hiç iz bırakmadan maniple edilebiliyor.

Orwell, “geçmişi kontrol eden geleceği kontrol eder” demişti.

Hakikati kontrol etmenin yolu, toplumun hafızasında neyin, nasıl ve ne kadar kalacağını belirlemekten geçiyor.

Bu yüzden tarih boyunca kitaplar yakıldı, el yazmaları tahrif edildi, matbaalar sansürlendi.

Fakat yapay zekâ devrimi, bu işi başka bir seviyeye taşıyor.

Hatırlama ve düşünme işini giderek yapay zekâya devreden insanlık, doğrulama alışkanlığını da kaybediyor.

Bir süre sonra yapay zekânın aktardığı bilgileri özgün kaynaklardan sınamak hem zorlaşacak hem de gereksiz görülmeye başlanacak.

Yapay zekâ şirketlerini yönetenler, neyi, nasıl ve ne kadar hatırlayacağımıza karar veren aktörlere dönüşecek.

Her belgeye “yapay zekâ üretimi”, her görüntüye “montaj” denilebilen bir çağda; hakikat diye bir şeyden bahsetmek gittikçe zorlaşacak.

Yapay zekâ, bir kitaptan, yazarı tarafından hiç yazılmamış cümleler aktarabilir.

Bunun bir halüsinasyon mu, yoksa manipülasyon mu olduğunu ayırt edemeyiz.

İnsanlar kendi kimliklerinin yapı taşı olan inançlarıyla çelişen delilleri kimlik koruyucu biliş nedeniyle reddederler.

Bu gidişle “hangi yapay zekâya inandığımız”, kimliğimizi belirler hâle gelecek!

Tekno-lordların şekillendirdiği epistemik düzende, zaten var olan dogmatikleşme eğilimi iyice kuvvetlenecek.

Yine önceki yazımda bahsettiğim “bilişsel cimrilik” (cognitive miser) sebebiyle hakikat arayışından kaçınan insanlar, inanıp teslim oldukları yapay zekâ şirketlerinin “müminlerine” dönüşecekler.

Dinlerin en ayırt edici özelliklerinden biri, yalnızca cevap üretmeleri değil, hangi soruların sorulabileceğini de belirlemeleridir.

Soruları belirleyen, cevapların sınırlarını da belirler.

Yapay zekâ sistemleri de giderek dine benzer bir konuma yerleşiyor, çünkü sadece cevap vermiyor; hangi soruları sormaya değer bulacağımızı da biçimlendiriyor.

Bir toplumun ortak hafızasını kontrol etmek, onun geleceğini kontrol etmektir.

Ortak hafızanın kütüphanelerden, dikkatle korunan fiziksel arşivlerden, birkaç teknoloji şirketinin veri merkezlerine taşınmaya başlanması, başlı başına alarm verici bir gelişmedir.

Sürekli güncellenen, düzeltilen ve yeniden yazılabilen bu dinamik hafızanın istenen kısmı yarın sessizce silinebilir; silindiğini fark edecek kimse de kalmayabilir.

Böyle bir dünyada en büyük tehlike, yapay zekânın bir manipülasyon aracı olarak kullanılabileceğini unutup ona teslim olmamızdır.

Eleştirel düşüncenin yerini algoritmik otorite aldığında, insanlar artık maddi deliller yerine algoritmaları hakem kabul etmeye başlayacaktır.

Foucault buna ‘hakikat rejimi’ (régime de vérité) diyordu: Hangi bilginin doğru kabul edileceğini belirleyen iktidar düzeni.

Geleceğin büyük ayrışmaları ideolojiler arasında değil, farklı yapay zekâların ürettiği hakikat rejimleri arasında yaşanabilir.

Aynı olaya bakan insanlar, farklı yapay zekâ modellerinden beslendikleri için birbirinden tamamen farklı tarih, bilim ve ahlak anlayışlarına sahip olabilirler.

Herkesin kendi algoritmasının doğrularını savunması, ortak hakikat zeminini giderek daraltabilir.

Bu tehlikeye karşı yalnızca kitapları değil; bağımsız arşivleri, doğrulanabilir kaynakları ve hiçbir otoriteyi sorgulanamaz kabul etmeyen zihinsel disiplini korumamız gerekiyor.

Çünkü hakikat, en ölümcül darbeleri yalanlardan değil, doğrulanma imkânının sessizce ortadan kalkmasından alır.