Yapay zekâ yerimize düşünürse demokrasi zarar görür

18. yüzyılda Aydınlanma Çağı, yüzyıllardır tartışılan bir soruya açıklık getirdi: Bilgi nereden gelir? Binlerce yıl boyunca pek çok kişi bu sorunun yanıtı olarak Tanrı’yı göstermişti. Ancak erken modern dönem, yeni bir uzlaşıyı beraberinde getirdi: Bilgi; bilinenin sınırlarında çalışan, gözlem, matematik, deney ve mantıkla donanmış insan bilim insanlarından doğar.

Tarihçi Steven Shapin’in de belirttiği gibi bu, düşünsel olduğu kadar toplumsal bir devrimdi. Bilim, araştırma ve titizliğin erdem olduğu fikri etrafında ortak değer dünyamızı yeniden şekillendirmeye başladı. Kendimizi ve en yüksek kurumlarımızı bilimsel araştırmanın ölçütlerine göre değerlendirdik.

Bu değişimi hiçbir siyasal sistem demokrasi kadar iyi yansıtmaz. Halk egemenliği ideali, her birimizin adayları ya da politika önerilerini karşılaştırıp kendi bilgiye dayalı sonucuna ulaşabileceği ilkesine dayanır.

Bugün benzer bir devrimin eşiğindeyiz. Eylül ayında OpenAI’ın modellerinden biri, bilim insanlarının onlarca yıldır çözemediği bir matematik problemini bir haftadan kısa sürede çözdü. Yapay zekâ sistemleri, herhangi bir araştırma ekibinin tarayamayacağı kadar geniş kimyasal uzaylarda arama yaparak yeni antibiyotik adaylarını şimdiden belirliyor. Makineler, giderek daha fazla alanda özerk biçimde yeni bilgiler üretiyor. Soruları hâlâ insanlar soruyor, sonuçları yine insanlar değerlendiriyor; ancak bilinmeyene doğru yaratıcı sıçrama, giderek bizim gibi düşünmeyen, hatta aslında hiç düşünmeyen sistemler tarafından tetikleniyor.

Bilimsel Devrim’den gördüğümüz üzere, yeni bilgi sistemleri çoğu zaman yeni bilgi ve etik anlayışlarını da beraberinde getirir. Yapay zekâ bize örtük biçimde kolaylığa, hıza ve işleri başkasına devretmeye değer vermeyi öğretiyor. Bu değerlerin elbette yeri var. Hiçbir insan, bir yapay zekâ kadar çok veriyi bu kadar kısa sürede inceleyemez. Tıp gibi alanlarda hız çoğu zaman hayat kurtarır.

Ancak internetin son yıllardaki dönüşümünü izleyen herkesin bildiği gibi, hızlı ilerlemek bazı şeyleri bozmak anlamına gelebilir. Demokratik kurumlarımızın da bu bozulan şeylerden biri hâline gelmesine izin veremeyiz.

Yapay zekânın en güçlü olduğu alan örüntü tanımadır. Algoritmaya bir soru ya da denklem veririz; o da girdileri karşılaştırarak bir yanıt bulur. Ancak hangi soruların sorulmaya değer olduğuna, hangi sonuçların peşinden gitmemiz gerektiğine ya da nasıl bir gelecek kurmak istediğimize karar veremez. Oysa demokrasi, tam da bu tür soruları ele almamızı gerektirir.

İnsanlığın karşı karşıya olduğu en önemli soruların pek çoğunu başkasına devredemeyiz. Örneğin, siyasal kutuplaşmayı hangi politikalar azaltabilir? Liberal bir demokrasi, gözetim ile sivil özgürlükler arasındaki dengeyi nasıl kurmalı? Derinleşen eşitsizlikle boğuşan bir toplumda adalet neyi gerektirir?

Bunlar örüntü tanımanın çözebileceği sorunlar değil; çünkü hiçbirinin tek bir yanıtı yok. Bu sorular, kusurlu, tartışmalı, sürekli değişen ve çözüme kavuşmamış olsa da insan muhakemesini; ayrıca yalnızca toplulukların içinde yaşayan insanların tanıyıp hissedebileceği bir bağlamı gerektiriyor. En yeni bilgi çağımız için hangi değer sistemini benimsersek benimseyelim, yapay zekânın insanlığın en önemli sorularını yanıtlayamayacağını hesaba katmalıyız.

Bu deneyimi daha önce yaşadık; hem de pek çok kişinin düşündüğünden daha yakın bir geçmişte. İnternet kişisel ve profesyonel yaşamımızda yaygınlaştığından beri, gerçeği korurken giderek artan miktarda bilgiyi nasıl özümseyeceğimizi bulmaya çalışıyoruz. Dijital ekonominin yalnızca şirketlerin çıkarlarına ve kâr hanesine değil, kamu yararına hizmet etmesini sağlamanın yollarını arıyoruz. Neyse ki davacılar ve mahkemeler, çocuklara verilen zararlar nedeniyle büyük sosyal medya platformlarını nihayet sorumlu tutmaya başladı.

Öte yandan dijital teknolojiler pek çok yarar da sağladı. Digital Public Library of America, ülkenin bazı bölgelerinde yasaklanan ya da erişilemeyen kitaplara ulaşılmasını sağladı. Internet Archive’ın Wayback Machine’i, onlarca yıl önce internette yayımlanmış bir yazıyı bulup izini sürmemize imkân veriyor. Wikipedia, ortaklaşa üretilen geniş bir bilgi birikimini ücretsiz erişime açtı. Khan Academy ise dijital teknolojileri kullanarak eğitimi demokratikleştirdi.

Bu projeler, yüzyıllar önce Bilimsel Devrim sırasında benimsediğimiz değerlerin kanıtı. İnternette yanlış bilgi ve dezenformasyon her yerde karşımıza çıkarken bile gerçeğin ve kanıtların gömülüp gitmesini önlemeyi, olguları herkesin ücretsiz erişimine açmayı ve daha fazlasını öğrenmek isteyen herkesi teşvik etmeyi seçtik.

Yapay zekâ da benzer bir seçim yapmamızı gerektiriyor. İnternet bizi doğru ve yanlış, zararsız ve kötü niyetli bilgilerle boğarken yapay zekâ, analiz işini tümüyle başkasına devretmeyi öneriyor.

Bu ayartmaya direnmeliyiz. Yanıtlar, nasıl elde edilmiş olurlarsa olsunlar, içgörüler kadar değerli değildir; OpenAI’ın atılımlarına karşılık veren matematikçilerin de belirttiği gibi. Öğrenme ve keşfetme sürecinin önüne ürünü koymamalıyız. Demokrasi, sandıkta, okul yönetim kurulu toplantısında ya da akşam yemeği masasında olsun, bütün yurttaşların katılımını gerektirir.

Kurumlarımız, tasarımları gereği, kendi hâline bırakılarak işleyemez. Demokrasi de bilim gibi, nasıl daha iyi, daha akıllı, daha hızlı ve daha özgür olabileceğimizi durmadan soran, mevcut durumdan hoşnut olmayan insanların enerjisiyle işler. Katılım göstermeyi bıraktığımızda ya da bilgiye dayalı görüşlerin yerine yapay zekânın ürettiği yanıtları koymaya başladığımızda bu motor durur.

Filantropi bu konuda yardımcı olabilir. MacArthur Vakfı olarak, dokuz başka destekçiyle birlikte, önümüzdeki yıllarda yapay zekânın geliştirilmesinde insanlığın merkezde kalmasını sağlamak amacıyla yürütülen 500 milyon dolarlık Humanity AI girişimini destekliyoruz. Başlangıçta odaklanılan temel alanlardan ikisi demokrasi ve eğitim. Bu kurumlar dönemin gerekliliklerine ayak uydurmalı; yapay zekânın kendisi de her zaman insanları direksiyonda bırakacak biçimde tasarlanıp kullanılmalı.

Yapay zekâ nihayetinde daha iyi, daha akıllı ve daha güvenli bir dünya kurmamızı sağlayabilir. Ancak onun, hakem değerlendirmesi ve kamu araştırma üniversitelerinin omuzlarında yükseldiğini unutmamak gerekir.

Bilimsel Devrim’in ürünleri, onları ortaya çıkaran sürecin ve ilkelerin yerini alamaz. O süreç çok kıymetli ve korunmalı.

John Palfrey, John D. ve Catherine T. MacArthur Vakfı Başkanıdır.