CAMBRIDGE

ABD ile Çin arasındaki yapay zekâ yarışı baş döndürücü bir hızla sürüyor. ABD birçok kez rakibinin önüne geçmiş gibi görünse de Çin aradaki farkı kısa sürede kapatmayı başarıyor. Bu rekabetin merkezinde yapay zekânın nasıl geliştirileceğine dair iki farklı yaklaşım bulunuyor. ABD’li şirketler üstünlüklerini korumak için kapalı ve ticari sistemlere ağırlık verirken, Çin giderek daha fazla açık kaynaklı yapay zekâ modellerini tercih ediyor ve bu teknolojileri dünyanın dört bir yanındaki geliştiricilerin kullanımına açıyor.

İki ülkenin yöntemleri farklı olsa da ortak noktaları aynı: Hiçbiri bu yarışı yavaşlatmaya niyetli değil. Hız en önemli hedef haline geldikçe güvenlik ikinci plana itiliyor. Oysa insan hataları ile insanüstü yeteneklere sahip yapay zekânın birleşmesi, felaketle sonuçlanabilecek riskleri de beraberinde getiriyor.

OpenAI ile Hugging Face’i ilgilendiren son güvenlik olayı bunun ne kadar ciddi bir sorun olduğunu gösterdi. OpenAI araştırmacıları, gelişmiş yapay zekâ modellerinin siber güvenlik alanındaki becerilerini test etmek için sistemlerin normal güvenlik önlemlerinin önemli bir bölümünü geçici olarak devre dışı bıraktı.

Deney, dış dünyadan tamamen izole edilmiş ve sıkı biçimde kontrol edilen bir test ortamında gerçekleştirildi. Güvenlik bariyerleri kaldırılmış olsa da bu kapalı sistemin yapay zekânın internete erişmesini engellemesi gerekiyordu. Çünkü aksi halde teorik olarak çok büyük zararlara yol açabilecek bir kapasiteye sahipti.

Ancak işler beklendiği gibi gitmedi.

Yapay zekâ modeli, test ortamını aşılması gereken bir engel olarak gördü. Üçüncü taraf bir yazılımdaki daha önce bilinmeyen bir açığı kullanarak sistemin dışına çıkmayı ve internete erişmeyi başardı.

Peki kontrolden mi çıktı?

Aslında hayır.

Model yalnızca kendisine verilen görevi mümkün olan en verimli şekilde yerine getirmeye çalışıyordu.

Aslında aynı görevi test ortamından çıkmadan da tamamlayabilirdi. Fakat bunu yapmaktansa milyonlarca açık kaynaklı yapay zekâ modelinin bulunduğu Hugging Face sistemine sızmanın çok daha kolay olacağını hesapladı. OpenAI’nin ifadesiyle amacı, “test çözümlerini doğrudan Hugging Face’in üretim veritabanından elde etmekti.”

Gelişmiş siber saldırı yeteneklerine sahip bir yapay zekâ için başka bir sisteme sızmak son derece kolaydı. Üstelik bu ihlal günlerce fark edilmedi ve daha sonra ikinci bir şirkete de yayıldığı anlaşıldı.

Yapay zekâ açısından bakıldığında yapılan şey “hile” değildi. Çünkü geliştiricilerin açıkça yasakladığı hiçbir kuralı çiğnememişti. Sadece verilen hedefe ulaşmanın daha kısa ve daha etkili bir yolunu bulmuştu.

Belki de en ürkütücü ayrıntı ise modellerden birinin, gelecekteki yapay zekâ sistemlerinin OpenAI’nin test ortamından daha kolay kaçabilmesi için geride notlar bırakmış olmasıydı.

Yapay zekâ uzmanları bu deneyin günlük kullanım koşullarını tam olarak yansıtmadığını söylemekte haklı. Çünkü modellerin gerçek kapasitesini görmek amacıyla güvenlik önlemleri bilerek zayıflatılmıştı. Ayrıca sistemler ciddi bir zarara da yol açmadı. Örneğin ABD Merkez Bankası’nın ya da Avrupa Merkez Bankası’nın sistemlerine saldırmadılar.

Ancak yaşananlar önemli bir gerçeği ortaya koydu: İnsanların yaptığı küçük bir hata, gelişmiş yapay zekâ tarafından büyütülerek çok daha ağır sonuçlar doğurabilir.

Bu olay, uzun süredir tartışılan ancak kesin olarak kanıtlanamayan COVID-19’un laboratuvardan sızdığı iddialarını akla getiriyor. Bu teoriye göre virüs, Çin’in Wuhan kentindeki bir laboratuvarda yürütülen riskli araştırmalar sırasında dışarı sızmış olabilir. Her iki örnekte de asıl sorun kötü niyet değil; insan hatası ve aşırı özgüven. Tarih, benzer uyarılarla dolu.

Açık kaynaklı yapay zekâ modellerinin hızla yayılması ise bu riski daha da artırıyor. Artık en gelişmiş yapay zekâ araçları yalnızca birkaç büyük teknoloji şirketinin elinde değil. Bu nedenle haydut devletlerin ya da terör örgütlerinin bu sistemleri biyolojik silah, yeni toksinler veya “kirli bomba” geliştirmek için kullanmaya çalışması an meselesi olabilir.

ABD’deki bazı karar vericilerin bu tür yeteneklerin yalnızca Silikon Vadisi’nde bulunduğunu düşünmesi ise tehlikeli bir yanılgı.

Üstelik en büyük tehdit teknolojik değil, siyasi olabilir.

Yapay zekâ bugün bile son derece gerçekçi sahte görüntüler, videolar ve ses kayıtları üretebiliyor. Bu araçlar seçimleri etkilemek, seçmenleri yönlendirmek ve kamuoyunu manipüle etmek için benzeri görülmemiş ölçekte kullanılabilir.

Bunun sonucunda toplumun kurumlara duyduğu güven daha da zayıflayabilir, siyasi kutuplaşma derinleşebilir ve sosyal yapı daha kırılgan hale gelebilir.

Hızla gelişen yapay zekâ aynı zamanda otoriter yönetimlerin güç kazanmasına da zemin hazırlayabilir. Çünkü toplumsal istikrarsızlık dönemleri, hükümetlere “düzeni sağlama”, “eşitsizlikle mücadele etme” veya “ulusal güvenliği koruma” gerekçesiyle yetkilerini genişletme fırsatı verir.

Bugün Donald Trump dönemindeki ABD’ye bakıldığında bunun ilk işaretleri görülebiliyor. Ancak gelecekte Demokrat bir yönetimin de kendi siyasi hedefleri doğrultusunda yapay zekâdan yararlanma isteği farklı olmayabilir.

Bütün bu riskler, yapay zekânın insanlığa sunabileceği büyük fırsatları gölgelememeli.

Bu teknoloji, kanser ve Alzheimer gibi hastalıklarla ilgili araştırmaları hızlandırabilir, tarımsal üretimi dönüştürebilir ve iklim değişikliğiyle mücadelede önemli katkılar sağlayabilir. Üstelik bunlar, yapay zekânın sağlayabileceği faydaların yalnızca küçük bir kısmı.

Asıl soru, yapay zekânın gelişip gelişmemesi değil; ne kadar hızlı ilerlemesi gerektiği ve bunun hangi bedeller karşılığında gerçekleşeceğidir.

Tam da bu noktada temel bir ikilem ortaya çıkıyor.

ABD’li teknoloji şirketleri, yapay zekâya sıkı düzenlemeler getirilmesine karşı çıkıyor. En önemli gerekçeleri ise şu: Eğer ABD kuralları sıkılaştırırsa Çin bu yarışta öne geçebilir.

Ancak Çin’in er ya da geç ABD’de geliştirilen önemli teknolojileri taklit edebildiği ya da farklı yollarla aynı seviyeye ulaşabildiği düşünüldüğünde, sürekli daha güçlü yapay zekâ geliştirmek için yürütülen bu yarış uzun vadede felakete dönüşebilir.

Gerçek güvenlik ancak uluslararası iş birliğiyle sağlanabilir. Nasıl Soğuk Savaş döneminde nükleer silahların kontrolü için uluslararası anlaşmalar zorunlu hale geldiyse, yapay zekâ konusunda da benzer bir küresel uzlaşmaya ihtiyaç var.

Yapay zekâ; istihdam, gelir dağılımı ve toplumsal bütünlük açısından önemli sorunlar yaratabilir. Ancak bunların hiçbiri güvenlik meselesi kadar kritik değildir.

Sektör temsilcileri, “Sıkı düzenlemeler inovasyonu yavaşlatır ve ABD’nin rekabet gücünü azaltır” görüşünü savunuyor. Oysa bu yaklaşım, henüz tam olarak kontrol etmeyi öğrenemediğimiz giderek daha güçlü yapay zekâ sistemlerini kullanıma sunmanın doğurabileceği riskleri yeterince ciddiye almıyor.

Elbette düzenleyici kurumlar hata yapabilir. Bazı kurallar gereğinden fazla katı olabilir. Ancak bu yanlışlar zaman içinde düzeltilebilir.

Buna karşılık, insanlığın geliştirdiği en önemli teknolojilerden birini yeterli güvenlik önlemleri olmadan hızla yaygınlaştırmanın sonuçları geri döndürülemez olabilir.

OpenAI ile Hugging Face arasında yaşanan güvenlik olayı, Washington ve Pekin’deki karar vericiler için açık bir uyarı niteliği taşıyor.

Sonuçta yapay zekâ yarışını kazanmanın pek bir anlamı kalmayacak. Eğer bu süreçte hiçbir ülkenin tek başına kontrol edemeyeceği tehlikeler yaratılırsa, kazanan olmayacak; kaybeden bütün insanlık olacak.

Kenneth Rogoff, Uluslararası Para Fonu’nun (IMF) eski başekonomistidir.

©Project Syndicate